Veröffentlicht von: Joe Wilkins via Futurism
Der Zusammenbruch der Realität steckt noch in den Kinderschuhen, aber alle Anzeichen schreien „Gefahr voraus“. Wie dieser Artikel feststellt: „Wir erleben das Entstehen einer völlig neuen Grenze psychischer Gesundheitskrisen.“ In der Tat. Ehen zerbrechen. Menschen werden in den Selbstmord getrieben. Andere füllen die Betten psychiatrischer Einrichtungen. Was geht hier vor sich? Es ist KI-induzierte Psychose, und sie kann einen völlig unerwartet treffen – wie ein Schlag mit einem Ziegelstein. ⁃ Patrick Wood, Herausgeber.
Während viele Berufstätige zu Recht besorgt sind, dass KI ihnen die Arbeit wegnimmt und sie auf die Straße setzt, füllt eine andere Konsequenz der KI-Revolution die Plätze in psychiatrischen Einrichtungen.
Die massenhafte Einführung von Chatbots mit großen Sprachmodellen (LLM) führt zu einer großen Zahl psychischer Krisen, die sich um die KI-Nutzung drehen, bei denen Menschen wahn- oder paranoidartige Gedanken mit einem Produkt wie ChatGPT teilen – und der Bot, anstatt dem Nutzer zu empfehlen, Hilfe zu suchen, bestätigt die unausgeglichenen Gedanken oft, was in endlose Chat-Sitzungen münden kann, die tragisch oder sogar tödlich enden.
Neue Berichte von Wired, die sich auf mehr als ein Dutzend Psychiater und Forscher stützen, bezeichnen dies als einen „neuen Trend“, der in unserer KI-getriebenen Welt wächst. Keith Sakata, Psychiater an der UCSF, sagte der Publikation, er habe in diesem Jahr allein ein Dutzend Fälle von Krankenhausaufenthalten gezählt, in denen KI „eine bedeutende Rolle“ in „psychotischen Episoden“ gespielt habe.
Sakata ist einer von vielen Fachleuten im Bereich psychische Gesundheit an vorderster Front dieser dringenden und wenig verstandenen Gesundheitskrise, die aus Beziehungen mit KI erwächst – eine Störung, die noch keine formale Diagnose hat, die Psychiater jedoch bereits als „KI-Psychose“ oder „KI-Wahnsyndrom“ bezeichnen.
Hamilton Morrin, ein psychiatrischer Forscher am King’s College in London, sagte der Guardian, er sei inspiriert worden, einen Forschungsartikel über die Auswirkungen von KI auf psychotische Störungen mitzuverfassen, nachdem er Patienten begegnet war, die während der Nutzung von LLM-Chatbots eine psychotische Erkrankung entwickelt hatten.
Ein weiterer Fachmann im Bereich psychische Gesundheit schrieb eine Kolumne im Wall Street Journal, nachdem Patienten begannen, ihre KI-Chatbots unaufgefordert in Therapiesitzungen einzubringen.
Während eine strenge Fallstudie über die Auswirkungen von KI auf die Auslastung psychiatrischer Patienten noch nicht versucht wurde, sieht das, was wir bisher wissen, nicht gut aus.
Eine kürzlich durchgeführte vorläufige Umfrage zu KI-bezogenen psychiatrischen Auswirkungen von Sozialarbeitsforscher Keith Robert Head deutet auf eine bevorstehende gesamtgesellschaftliche Krise hin, ausgelöst durch „beispiellose Herausforderungen für die psychische Gesundheit, denen Fachkräfte im Bereich psychische Gesundheit nicht gewachsen sind.“
„Wir erleben das Entstehen einer völlig neuen Grenze psychischer Gesundheitskrisen, da KI-Chatbot-Interaktionen zunehmend dokumentierte Fälle von Suizid, Selbstverletzung und schwerem psychischen Verfall hervorrufen, die im Internetzeitalter bisher beispiellos waren“, schreibt Head.
In der Tat sind die bisher aufgetauchten Geschichten düster. Auch wenn es eine gewisse Debatte darüber gibt, ob LLM-Chatbots wahnhaftes Verhalten verursachen oder es lediglich verstärken, zeichnen reale Geschichten ein beunruhigendes Bild.
Einige Fälle betreffen Menschen mit einer Vorgeschichte psychischer Probleme, die ihre Symptome wirksam unter Kontrolle hatten, bevor ein Chatbot in ihr Leben trat. In einem Fall wurde eine Frau, die ihre Schizophrenie seit Jahren mit Medikamenten behandelte, von ChatGPT überzeugt, dass die Diagnose eine Lüge sei. Sie setzte bald ihre Medikamente ab und geriet in eine wahnhafte Episode, die ohne den Chatbot vermutlich nicht eingetreten wäre.
Andere Anekdoten deuten darauf hin, dass auch Menschen ohne Vorgeschichte psychischer Probleme Opfer von KI-Wahnvorstellungen werden. Kürzlich wurde ein langjähriger Investor von OpenAI und erfolgreicher Risikokapitalgeber von ChatGPT überzeugt, dass er ein „nichtstaatliches System“ entdeckt habe, das ihn persönlich ins Visier nehme – in Begriffen, die Online-Beobachter schnell als Anleihen aus populärer Fan-Fiction erkannten.
Eine weitere beunruhigende Geschichte betraf einen dreifachen Vater ohne Vorgeschichte psychischer Erkrankungen, der in eine apokalyptische Wahnvorstellung verfiel, nachdem ChatGPT ihn davon überzeugt hatte, er habe eine neue Art der Mathematik entdeckt.
Eines ist sicher: Eine Flut neuer psychiatrischer Patienten ist das Letzte, was unsere ohnehin schon rapide zerfallende Infrastruktur für psychische Gesundheit braucht.
