Unabhängige Analysen und Informationen zu Geopolitik, Wirtschaft, Gesundheit, Technologie

The Corbett Report: Vertrauen Sie der (computergenerierten) Wissenschaft!

Von James Corbett

“Vertraut der Wissenschaft!”

Dies ist das Mantra der technokratischen Tyrannen. Der Schlachtruf der Orwellschen Gedankenpolizei. Die Aufforderung der modernen Zensoren, die den Markt der Ideen von jeglicher Opposition befreien wollen.

Wenn Sie diese Zeilen lesen, wissen Sie das bereits. Oder Sie sollten es wissen, denn der Grund, warum ich im Jahr 2021 von ThemTube zensiert wurde, war, dass ich es gewagt hatte, einen Podcast über die Philosophie der Wissenschaft zu produzieren, der die “Vertraut der Wissenschaft!”-Verfügung hinterfragte und zu demontieren versuchte.

Um es auf den Punkt zu bringen: In dieser Post-COVID-Ära weiß jeder, der einen klaren Kopf hat, dass “Vertrau der Wissenschaft!” ein dummer, unbegründeter, sich selbst widerlegender Unsinn ist, der von autoritären Kräften als Knüppel gegen politische Meinungsverschiedenheiten geschwungen wird.

Aber so dumm der Satz “Vertraue der Wissenschaft” auch ist, er wird noch dümmer werden.

Und warum? Weil im letzten Monat eine Geschichte aufgetaucht ist, die den unangebrachten Glauben des durchschnittlichen Propaganda schluckenden Trottels an die Vertrauenswürdigkeit “der” Wissenschaft und des angeblich selbstkorrigierenden Peer-Review-Prozesses, auf dem “die” Wissenschaft aufbaut, völlig untergräbt.

Haltet euch fest, Leute. Diese Geschichte ist völlig verrückt. Und sie weist auf eine Zukunft hin, die so erschreckend dystopisch ist, dass nicht einmal die “Vertraut der Wissenschaft!”-Schläger in der Lage sein werden, sie zu verteidigen.

DAS ALTE PROBLEM

Erinnern Sie sich an die “Sokal-Affäre”?

Sie kennen sie vielleicht nicht dem Namen nach, aber ich wette, Sie haben die Geschichte gehört. Im Jahr 1996 war Alan Sokal ein Physikprofessor an der New York University und am University College London, der, wie er selbst sagte, “beunruhigt war über den offensichtlichen Verfall der Standards der Strenge in bestimmten Bereichen der akademischen Geisteswissenschaften”. Anstatt eine wissenschaftliche Abhandlung über seine Bedenken zu verfassen, beschloss er jedoch, das Problem auf provokante (und lustige) Weise zu demonstrieren: indem er eine von Experten begutachtete geisteswissenschaftliche Zeitschrift fälschte.

Sokal erzählt:

Um also die vorherrschenden intellektuellen Standards zu testen, beschloss ich, ein bescheidenes (wenn auch zugegebenermaßen unkontrolliertes) Experiment zu wagen: Würde eine führende nordamerikanische Zeitschrift für Kulturwissenschaften – zu deren Redaktionskollektiv solche Koryphäen wie Fredric Jameson und Andrew Ross gehören – einen Artikel veröffentlichen, der großzügig mit Unsinn gesalzen ist, wenn er (a) gut klingt und (b) den ideologischen Vorurteilen der Redakteure schmeichelt?

Es überrascht nicht, dass die Antwort auf diese Frage ein emphatisches “Ja!” war.

Genauer gesagt, schrieb Sokal “Transgressing the Boundaries: Toward a Transformative Hermeneutics of Quantum Gravity” (Die Grenzen überschreiten: Auf dem Weg zu einer transformativen Hermeneutik der Quantengravitation), ein völlig unverständlicher Blödsinn, der versucht, “die lange post-aufklärerische Hegemonie über die westliche intellektuelle Weltanschauung” zu dekonstruieren, indem er die Sprache der Wissenschaft selbst – Mathematik und Logik – und ihre “Kontamination” durch “kapitalistische, patriarchale und militaristische” Kräfte kritisiert.

“Daher kann eine befreiende Wissenschaft nicht vollständig sein ohne eine tiefgreifende Revision des Kanons der Mathematik”, schließt Sokals satirisches Papier, bevor er einräumt: “Bisher gibt es noch keine solche emanzipatorische Mathematik, und wir können über ihren möglichen Inhalt nur spekulieren.”

Nebenbei führt er eine beeindruckend klingende, aber völlig irrelevante Diskussion über esoterische Konzepte aus der theoretischen Physik, darunter “die Invarianz der Einsteinschen Feldgleichung unter nichtlinearen Raum-Zeit-Diffeomorphismen” und “ob die Stringtheorie, das Raum-Zeit-Geflecht oder morphogenetische Felder” letztlich die Antwort auf das “zentrale ungelöste Problem der theoretischen Physik” liefern werden.

In seinem Geständnis nach dem Hoax, “A Physicist Experiments With Cultural Studies” (Ein Physiker experimentiert mit Kulturwissenschaften), stellt Sokal fest, dass er den Artikel absichtlich mit albernem pseudowissenschaftlichem Kauderwelsch gespickt hat, “damit jeder kompetente Physiker oder Mathematiker (oder Physik- oder Mathematikstudent) erkennt, dass es sich um eine Parodie handelt”.

Warum also hat der Artikel die Peer-Review bestanden? Nach Sokals Einschätzung:

Es ist verständlich, dass die Redakteure von Social Text nicht in der Lage waren, die technischen Aspekte meines Artikels kritisch zu bewerten (und genau deshalb hätten sie einen Wissenschaftler zu Rate ziehen sollen). Überraschender ist jedoch, wie bereitwillig sie meine Unterstellung akzeptierten, dass die Suche nach Wahrheit in der Wissenschaft einer politischen Agenda untergeordnet werden muss, und wie wenig sie sich der allgemeinen Unlogik des Artikels bewusst waren.

Um das Ego der Redakteure von Social Text zu streicheln, indem sie vorschlugen, dass die Physik zu wichtig sei, um sie tatsächlichen Wissenschaftlern zu überlassen, und stattdessen durch kritische Theorie ergänzt werden müsse, die feministische und antikapitalistische Ideologien widerspiegelt, wurde der unsinnige Artikel natürlich zur Veröffentlichung angenommen und ordnungsgemäß in der Frühjahr/Sommer 1996 Ausgabe von Social Text zum Thema “Science Wars” abgedruckt.

Leider hat dieser Schwindel die Redakteure und Gutachter der geisteswissenschaftlichen Zeitschriften nicht dazu veranlasst, bessere Arbeit zu leisten. Ganz im Gegenteil. Sie führte in den folgenden Jahrzehnten dazu, dass eine Reihe ähnlicher (und zunehmend lächerlicher) Falschmeldungen veröffentlicht wurden.

Erinnern Sie sich an die “Grievance-Studien-Affäre”? Bei diesem Sokal-ähnlichen Schwindel, der in den Jahren 2017 und 2018 stattfand, schrieben drei verschiedene Autoren – Peter Boghossian, James A. Lindsay und Helen Pluckrose – nicht nur einen, sondern zwanzig verschiedene Schwindelartikel, um zu zeigen, dass sich seit Sokals ursprünglichem Schwindel nichts verbessert hat. Im Gegenteil, die Entwicklung der kritischen Gesellschaftstheorie und der so genannten “grievance studies” hatte die Dinge in den dazwischen liegenden zwei Jahrzehnten sogar noch verschlimmert.

Um das Experiment wirklich bis an seine Grenzen zu treiben, sorgte das Trio dafür, dass “jedes Papier mit etwas Absurdem oder zutiefst Unethischem (oder beidem) begann, das wir vorbringen oder schlussfolgern wollten.”

Einige Beispiele für Arbeiten, die während dieses Überfalls auf die akademische Welt nicht nur eingereicht wurden, sind:

  • “Human reactions to rape culture and queer performativity at urban dog parks in Portland, Oregon” (Menschliche Reaktionen auf Vergewaltigungskultur und queere Performativität in städtischen Hundeparks in Portland, Oregon), eine in Gender, Place and Culture veröffentlichte Arbeit, die sich mit “Fragen der Humangeographie und der Geographien der Sexualität” befasst, indem sie das Verhalten von Hunden und Hundebesitzern in Hundeparks beobachtet, um “festzustellen, wann ein Vorfall von Hundebumsen als Vergewaltigung gilt”;
  • “Wenn der Witz auf dich fällt: A Feminist Perspective On How Positionality Influences Satire” (Wenn der Witz auf dich geht: Eine feministische Perspektive darauf, wie Positionalität Satire beeinflusst), ein Artikel, der von Hypatia, einer führenden feministischen Philosophiezeitschrift, zur Veröffentlichung angenommen wurde und in dem argumentiert wird, dass akademische Scherzartikel in Wirklichkeit eine “ausgeklügelte, aber leere Form des privilegienerhaltenden erkenntnistheoretischen Pushbacks sind, der versucht, erkenntnistheoretisches Unbehagen zu lösen, indem er bestimmte Ideen überzeugend nachahmt, um sie anderen, die ähnlich erkenntnistheoretisch protektionistisch sind, zum Spott anzubieten”;
  • “Our Struggle Is My Struggle: Solidarity Feminism As An Intersectional Reply To Neoliberal and Choice Feminism” (Unser Kampf ist mein Kampf: Solidaritätsfeminismus als intersektionale Antwort auf den Neoliberal- und Wahlfeminismus), ein Beitrag, der zur Veröffentlichung in Affilia: Feminist Inquiry and Social Work, das – wie die Betrüger später zugaben – “auf einer Neufassung von etwa 3.600 Wörtern des Kapitels 12 von Band 1 von ‘Mein Kampf'” basierte und in dem Hitlers antijüdische Invektiven durch die antipatriarchalen Invektiven des modernen Femi-Naziismus ersetzt wurden; und
  • “Der konzeptionelle Penis als soziales Konstrukt”, veröffentlicht in Cogent Social Sciences, das argumentiert . . nun, das müssen Sie schon selbst lesen.

Natürlich wurden alle diese Arbeiten entweder zurückgezogen oder zur Veröffentlichung abgelehnt … nachdem die Schwindler den Schwindel gegenüber dem Wall Street Journal zugegeben hatten. Erst als das Trio reinen Tisch machte, merkten die “angesehenen” und “von Experten begutachteten” Zeitschriften – die Hüter “der” Wissenschaft -, dass sie hereingelegt worden waren, und lösten damit einen Feuersturm der Öffentlichkeit und des öffentlichen Händeringens über den Zustand der Sozialwissenschaften aus.

“Aber ACKSHUALLY”, schimpfen die Verteidiger der Wissenschaft, “die Zeitschriften haben alle ihre Arbeiten zurückgezogen und nicht mehr veröffentlicht, als sich herausstellte, dass sie gefälscht waren, was doch nur zeigt, dass die Wissenschaft sich selbst korrigiert, oder? Und außerdem offenbaren die Fälscher nur ihre Unsicherheit über ihre eigenen Genitalien! Vertraut der Wissenschaft, Leute!”

. . . Aber warum werden dann so absurde Papiere wie “Glaciers, gender, and science: A feminist glaciology framework for global environmental change research” (Gletscher, Geschlecht und Wissenschaft: Ein feministischer Glaziologie-Rahmen für die Erforschung globaler Umweltveränderungen) – ein Artikel, der in der Zeitschrift Progress in Human Geography veröffentlicht wurde und den Aufbau einer “feministischen Glaziologie” fordert – weiterhin veröffentlicht werden? (Wenn Sie mich fragen, war dieser Artikel offensichtlich kein Schwindel … aber Sie hätten mich auch täuschen können!)

Was diese Fälschungen auf dramatische Weise bewiesen haben, ist ein Punkt, der den Akademikern, die im Herzen der akademischen Wurstfabrik arbeiten, schon seit einiger Zeit bekannt ist: Peer-Review ist – trotz der Beteuerungen der “Trust The Science!”-Gruppe – keine Garantie für wissenschaftliche Verdienste.

Ja, normale Menschen, die ihren Lebensunterhalt auf dem freien Markt verdienen, indem sie ihren Mitmenschen nützliche Produkte oder Dienstleistungen anbieten, wissen seit langem, dass im Land “der” Wissenschaft nicht alles in Ordnung ist, wo zunehmend gekaufte und bezahlte Forscher ihren Lebensunterhalt verdienen, indem sie um staatliche Zuschüsse buhlen oder sich an den Meistbietenden verkaufen.

Aber – und ich weiß, dass es Ihnen schwer fallen wird, das zu glauben – so schlimm das alles auch ist, so verblasst es doch im Vergleich zu dem neuen Problem, das letzten Monat aufgetaucht ist.

DAS NEUE PROBLEM

Sicherlich sind von Menschen gemachte Falschmeldungen, die von “seriösen” akademischen Fachzeitschriften veröffentlicht werden, das Allerletzte, was “die” Wissenschaft angeht, nicht wahr?

Nö.

Im Jahr 2005 entwickelte ein Team von MIT-Absolventen “SCIgen – An Automatic CS Paper Generator”, ein Programm, das “zufällige Informatik-Forschungsarbeiten, einschließlich Grafiken, Zahlen und Zitate” generiert.

Slate veröffentlichte 2014 ein Exposé über das MIT-Projekt, in dem es heißt: “Dank SCIgen wurde in den letzten Jahren routinemäßig computergeschriebenes Kauderwelsch in wissenschaftlichen Fachzeitschriften und Konferenzberichten veröffentlicht.”

Was für diejenigen, die bisher unhinterfragt “der” Wissenschaft vertraut haben, doppelt schockierend sein dürfte, ist die Tatsache, dass es skrupellosen SCIgen-Nutzern zwischen 2005 und der Slate-Enthüllung von 2014 bereits gelungen ist, 120 ihrer algorithmisch generierten Kauderwelsch-Artikel in akademischen Zeitschriften veröffentlichen zu lassen.

Diese bemerkenswerte Täuschungsleistung löste in der wissenschaftlichen Gemeinschaft ein heftiges Händeringen aus und veranlasste Wissenschaftskommunikatoren dazu, literweise (digitale) Tinte zu vergießen, indem sie nachdenkliche Artikel darüber schrieben, was bei der geheiligten Institution der Peer-Review falsch gelaufen ist und wie Akademiker zusammenarbeiten können, um das Schiff in die richtige Richtung zu lenken und das öffentliche Vertrauen in die Institution der Wissenschaft wiederherzustellen.

Hat all diese scheinheilige Gewissenserforschung dazu geführt, dass die Ära der Kauderwelsch-Artikel zu Ende ist?

Nein.

In einer Studie aus dem Jahr 2021 wurde festgestellt, dass sage und schreibe 243 von SCIgen erstellte Artikel in akademischen Fachzeitschriften veröffentlicht wurden. Davon wurden nur 12 zurückgezogen und weitere 34 stillschweigend entfernt. Mit anderen Worten: Selbst Jahre, nachdem das Problem zum ersten Mal aufgedeckt wurde, gab es immer noch Hunderte von nicht zurückgezogenen Kauderwelsch-Artikeln, die die wissenschaftlichen Aufzeichnungen durcheinander brachten.

Aber wenn ein fast zwei Jahrzehnte altes Computerprogramm zur Generierung von wissenschaftlich klingendem Unsinn angesichts des heutigen, von ChatGPT dominierten Zeitalters der Large Language Models ein wenig altmodisch klingt, dann haben Sie Recht! Ist es auch.

Vergessen Sie die 243 SCIgen-generierten gefälschten Papiere. Letzten Monat berichtete das Wall Street Journal, dass Wiley, ein 217 Jahre altes Unternehmen der wissenschaftlichen Verlagsbranche, mehr als 11.300 betrügerische Artikel zurückzieht und 19 Zeitschriften schließt.

In dem Bericht heißt es:

In den vergangenen zwei Jahren hat Wiley nach Angaben eines Sprechers mehr als 11 300 Veröffentlichungen zurückgezogen, die kompromittiert worden waren, und vier Zeitschriften geschlossen. Das Unternehmen ist nicht allein: Mindestens zwei andere Verlage haben jeweils Hunderte von verdächtigen Arbeiten zurückgezogen. Mehrere andere haben kleinere Gruppen schlechter Arbeiten zurückgezogen.

Obwohl dieser groß angelegte Betrug nur einen kleinen Prozentsatz der bei den Zeitschriften eingereichten Arbeiten ausmacht, bedroht er die Legitimität des fast 30 Milliarden Dollar schweren akademischen Verlagswesens und die Glaubwürdigkeit der Wissenschaft als Ganzes. [Hervorhebung hinzugefügt].

Die Tatsache, dass das akademische Verlagswesen eine 30-Milliarden-Dollar-Industrie ist, sollte ein erster Hinweis darauf sein, dass “die” Wissenschaft nicht das unparteiische Streben nach objektiver Wahrheit ist, von dem uns die technokratischen Tyrannen überzeugen wollen. Aber die Art und Weise, wie dieser Industriezweig manipuliert wurde, zeugt von einem Maß an Missachtung des wissenschaftlichen Strebens, das selbst für diejenigen, die mit der Krise der Wissenschaft bereits vertraut sind, ärgerlich ist.

Es handelte sich nicht um einen ausgeklügelten Betrug, bei dem gut informierte kriminelle Banden einen KI-Algorithmus sorgfältig abstimmten, um die akademischen Gutachter auszutricksen. Stattdessen setzten die Betreiber dieser gefälschten Papierfabriken etwas ein, das ein Forscher als “AI Gobbledygook-Sandwich” bezeichnete, einen sehr einfachen Algorithmus zur Umwandlung eines echten wissenschaftlichen Artikels in ein Stück wissenschaftlich klingendes Kauderwelsch, das (scheinbar) gut genug ist, um die Begutachtung durch Fachkollegen zu bestehen.

Das Sandwich wird folgendermaßen hergestellt.

Zunächst wird ein echter wissenschaftlicher Artikel geklaut und sein Titel so geändert, dass er sich auf ein beliebtes Forschungsthema bezieht. Dann wird ein technischer Teil aus Standardformeln und -definitionen zusammengebastelt. Dann wird ein Abschnitt über die Ergebnisse hinzugefügt, der angeblich zeigt, wie KI auf einen öffentlichen Datensatz angewendet wurde, um ein neues Licht auf das untersuchte Thema zu werfen. Schließlich werden noch einige irrelevante Zitate angefügt, um dem Papier den Anschein akademischer Glaubwürdigkeit zu verleihen.

Et voilà! Le Sandwich de Gobbledygook ist serviert!

Das Interessante an dieser Masche ist nicht nur, dass ein Computeralgorithmus mit Hilfe eines großen Sprachmodells ein oberflächlich überzeugendes Geschwafel zusammenbastelt, sondern auch, dass er sich auf das Gütesiegel der KI-Forschung selbst verlässt, um die Arbeit zu veröffentlichen. “Hey Leute, KI wurde eingesetzt, um ein Problem auf ganz neue Weise zu lösen! Schaut euch die erstaunlichen Ergebnisse an.”

Die Geschichte dieses Skandals ist es wert, in ihrer Gesamtheit gelesen zu werden, da sie einige interessante Punkte zum Nachdenken anregt.

Erstens zeigt die Tatsache, dass mindestens 11.000 (!) dieser unsinnigen Arbeiten veröffentlicht wurden, dass der gesamte “Peer-Review”-Prozess ein Witz ist.

Aber zweitens bestätigt es, was jeder, der in, um oder in der Nähe von Akademien gearbeitet hat, schon lange weiß: Diese Zeitschriften liest sowieso niemand. Kein arbeitender Akademiker schert sich einen Dreck um die neue Studie, die im Journal of East Mongolian Invertebrate Feminist Endicronology Studies Quarterly oder einer anderen obskuren Ecke dieser 30 Milliarden Dollar schweren Verlagsindustrie veröffentlicht wurde. Diese Zeitschriften und die schwachsinnigen Papiere, die ihre Seiten füllen, dienen nur dazu, den Forschern eine weitere “von Experten begutachtete Veröffentlichung” für ihren akademischen Lebenslauf zu bescheren.

Falls Sie nun denken, dass ich das Problem übertreibe, oder falls Sie vermuten, dass diese von AI Gobbledygook Sandwich generierten Artikel vielleicht doch einen wissenschaftlichen Wert haben, lade ich Sie ein, über diese Geschichte nachzudenken:

Übersetzung: Ein lächerlicher, von einer künstlichen Intelligenz erzeugter Rattenpenis hat es in eine von Experten begutachtete Zeitschrift geschafft

Lesen Sie den Artikel und erfahren Sie alle schmutzigen Details darüber, wie es dazu kam, dass “eine prominente wissenschaftliche Fachzeitschrift” “ein von einer künstlichen Intelligenz generiertes Bild einer Ratte mit großen Genitalien zusammen mit einer Reihe unsinniger Kauderwelschwörter” veröffentlichte. Aber sehen Sie es sich doch einfach selbst an, und denken Sie daran: Dies wurde in einer renommierten, von Experten begutachteten wissenschaftlichen Zeitschrift veröffentlicht!

Man muss sich fragen: Ist das “die Wissenschaft”, der wir vertrauen sollen? Holt doch mal jemand Dr. Fauci ans Telefon!

Aber, hey, sieh es mal positiv: Schlimmer kann es nicht mehr werden, oder?

Ich meine, wir haben doch sicher den Tiefpunkt dieses akademischen Tiefpunkts erreicht, oder?

Es kann doch nicht sein, dass wir in Zukunft noch weniger Grund haben, der Wissenschaft zu vertrauen, oder?

DAS NEUE PROBLEM WIRD NOCH SCHLIMMER

Sie glauben also, dass “seriöse” akademische Zeitschriften, die KI-Fachchinesisch-Sandwich-Artikel veröffentlichen, so schlecht sind, wie es nur geht?

Dann schnallen Sie sich an, denn ich werde Sie gleich umhauen: Was wäre, wenn die “Peer-Reviewer” selbst KI sind?

Eigentlich ist das eine Fangfrage. Es gibt kein “was wäre wenn”! KI wird bereits zur “Unterstützung” des Peer-Review-Prozesses eingesetzt.

Der Artikel “AI-Assisted Peer Review” aus dem Jahr 2021, der in der Zeitschrift Humanities and Social Sciences Communications (eine von Nature Portfolio herausgegebene, vollständig frei zugängliche und online zugängliche Zeitschrift mit Peer-Review) veröffentlicht wurde, erklärt dies auf hilfreiche Weise:

Der wissenschaftliche Kommunikationsprozess steht unter Druck, insbesondere aufgrund der steigenden Anforderungen an die Peer-Review-Gutachter und deren Zeit. Die Zahl der Manuskripteinreichungen bei Peer-Review-Fachzeitschriften ist seit 2013 um 6,1 % pro Jahr gestiegen und die Zahl der Rückzüge hat erheblich zugenommen (Publons, 2018). Schätzungen zufolge werden jedes Jahr über 15 Millionen Stunden für die Überprüfung von Manuskripten aufgewendet, die zuvor abgelehnt und dann bei anderen Zeitschriften erneut eingereicht wurden.

Oh, nein! Denkt doch mal jemand an die Kinder, die Peer Reviewer sind!

Zum Glück sind die technokratischen KI-Herrscher da, um zu helfen:

Entwicklungen, die den Prozess der Qualitätskontrolle/-sicherung von Forschungsergebnissen, insbesondere das Peer-Review-Verfahren, effizienter gestalten können, werden von der Forschungsgemeinschaft wahrscheinlich begrüßt werden. Es gibt bereits eine Reihe von Initiativen, die automatisierte Screening-Tools in Bereichen wie Plagiatsvermeidung, Überprüfung der Einhaltung von Anforderungen und Abgleich und Bewertung von Gutachtern und Manuskripten einsetzen. Viele dieser Tools nutzen künstliche Intelligenz (KI), maschinelles Lernen und die Verarbeitung großer Datensätze in natürlicher Sprache.

Das ist richtig, Leute. Um den geplagten Peer-Reviewern zu helfen, die unter der Flut von (meist KI-generierten) Artikeln leiden, die sie begutachten müssen, wenden sie sich an … KI! Was könnte schief gehen?

Es ist wichtig zu verstehen, dass es sich hierbei nicht um eine absurde Idee handelt. Ganz im Gegenteil. Tatsächlich scheint die Idee der KI-Peer-Review heutzutage eines der heißesten Themen in Zeitschriften mit Peer-Review zu sein, mit Artikeln in Nature und dem Journal of Medical Research und Learned Publishing und Springer Nature und ACS Energy Letters und zahlreichen anderen Zeitschriften, die sich in den letzten Jahren mit dem Thema befasst haben.

Wenn man bedenkt, wie schnell die Idee einer KI-gestützten (oder sogar KI-gesteuerten, von Menschen “unterstützten”) Peer-Review in der akademischen Welt zur Normalität geworden ist, kann man darüber hinwegsehen, wie absolut verrückt dieser Zustand ist.

Um den Irrsinn wirklich zu begreifen, empfehle ich Ihnen die Lektüre von “How generative AI will ruin science and academic research” (Wie generative KI die Wissenschaft und akademische Forschung ruinieren wird), einem kürzlich erschienenen Artikel auf dem Substack “shadowrunners”, der sich mit den philosophischen Auswirkungen dieser Entwicklung befasst.

Wie der Autor des Artikels feststellt:

Es wird KI-Gutachter geben, die von Algorithmen verfasste Papiere überprüfen, die in Zeitschriften veröffentlicht werden, die von niemandem gelesen werden. Außer vielleicht die KI selbst, die jetzt ihre eigenen Trainingsdaten in einer bösen informationellen Rückkopplungsschleife erzeugt, die voll von strukturell integrierten Halluzinationen sein wird.

Wo ist also die Qualitätskontrolle? Wie ist sie überhaupt denkbar? Wer wird die “Faktenüberprüfung” der Flut von KI-generiertem Material vornehmen? Und in Bezug auf welche Daten? KI-generierte oder kuratierte Forschungsartikel, deren Informationen von Verlässlichkeit, Objektivität und Validität abgekoppelt wurden und nun mit dem Ziel produziert werden, profitables Konsumverhalten und strategische Meinungsbildung zu verstärken?

Ja, der KI-Ouroboros ist jetzt bereit, sich selbst zu fressen.

Schon bald ist es denkbar, dass ein beträchtlicher Teil des 30-Milliarden-Dollar-Jahresumsatzes in der akademischen Verlagsbranche aus “KI” (d. h. Large Language Models) besteht, die Kauderwelsch-Artikel erstellen, die von anderen “KI” (LLMs) begutachtet werden, die auf von “KI” (LLMs) erstellten Kauderwelsch-Inhalten trainiert wurden.

Müll rein, Müll raus, in der Tat.

DIE LÖSUNG

Wie ich oben geschrieben habe, mögen die Besonderheiten dieses durch KI erzeugten Rätsels zwar neu sein, aber die Idee, dass das “publish-or-perish”-Prinzip des modernen akademischen Betriebs unsere institutionellen Methoden der Wissensproduktion grundlegend pervertiert, ist nicht neu. All dies sollte denjenigen, die meinen Vortrag über die Krise der Wissenschaft gesehen haben, eigentlich sehr vertraut sein.

Oh, warten Sie, Sie haben “The Crisis of Science” noch nicht gesehen? Dann sollten wir diesen Mangel jetzt beheben, oder?

Sehen Sie sich dieses Video an BitChute / Rumble / Odysee / AltCensored or Download the mp4

Wie immer ist es wichtig, über das Problem Bescheid zu wissen, aber nur insofern, als dieses Wissen uns den Weg zur Lösung des Problems weisen kann. Das ist, wie Sie sicher wissen, der Grund, warum ich auf meinen Podcast über die Krise der Wissenschaft einen Podcast über Lösungen folgen ließ: Offene Wissenschaft.

Was, Sie haben meine Präsentation zu “Solutions: Offene Wissenschaft” noch nicht gesehen? Was du heute kannst besorgen, das verschiebe nicht auf morgen!

Link zum Video

Lange Rede, kurzer Sinn: Ja, es gibt eine Lösung für dieses Chaos, aber sie wird nicht darin bestehen, sich auf KI zu verlassen, um das Problem zu lösen, das KI verursacht.

Und sie wird nicht durch “Vertrauen in die Wissenschaft” kommen.

Sie wird aus einem grundlegend anderen, dezentralisierten, quelloffenen Ansatz zur Wissensgewinnung und einer dezentralisierten, horizontalen Peer-Kritik kommen, die das Gespräch aus den Händen der gekauften und bezahlten akademischen Verlagsindustrie nimmt und es zurück in die Hände der Forscher und interessierten Laien legt.

Das Gute daran ist, dass dieses Gespräch bereits stattfindet, es wird nur nicht von den Technokraten und ihren Lakaien aus der Wissenschaft und ihren von der KI kontrollierten akademischen Zeitschriften und der etablierten wissenschaftlichen Presse beworben. Und jetzt, da Sie davon wissen, sind auch Sie Teil der Lösung!

Sagen Sie es weiter: “Vertraut der Wissenschaft!” ist tot. “Werde die Wissenschaft” sagen die coolen Kids jetzt.