Eine neue peer-reviewte Studie zeigt, wie weit die Personalisierung durch konversationelle KI inzwischen reicht. Während klassische Plattformen Nutzer aus Klicks, Suchanfragen, Standorten und Kaufverhalten profilieren, entstehen bei ChatGPT Erinnerungen direkt aus privaten Gesprächen. Die Forscher sprechen von einem „algorithmischen Selbstporträt“: einem Profil, das nicht nur Interessen und Vorlieben umfasst, sondern auch Wünsche, Absichten, Emotionen, Überzeugungen und sensible persönliche Informationen.
Die Studie „The Algorithmic Self-Portrait: Deconstructing Memory in ChatGPT“ wurde von Forschern des Max-Planck-Instituts, der Ruhr-Universität Bochum, des IIT Kharagpur und der TU Delft erstellt und 2026 auf der ACM Web Conference veröffentlicht. Untersucht wurden 2.050 Memory-Einträge von 80 realen ChatGPT-Nutzern.
Der auffälligste Befund betrifft die Frage, wer entscheidet, was gespeichert wird. Nur vier Prozent der untersuchten Erinnerungen gingen auf einen ausdrücklich erkannten Speicherbefehl des Nutzers zurück. Die übrigen 96 Prozent wurden vom System selbst angelegt. Das bedeutet nicht, dass ChatGPT Informationen erfand. Vielmehr entschied die KI eigenständig, welche Aussagen aus einem Gespräch für spätere Unterhaltungen relevant sein könnten.
Genau darin sehen die Forscher eine Verschiebung der Kontrolle. Der Nutzer liefert die Informationen, aber das System entscheidet in vielen Fällen selbst, welche davon Teil seines dauerhaften Profils werden.
Besonders deutlich wird die Tragweite bei sensiblen Daten. 28 Prozent der untersuchten Memory-Einträge enthielten personenbezogene Informationen im Sinne der DSGVO. In sieben Prozent fanden die Forscher besonders geschützte Daten. Dazu gehörten unter anderem Gesundheitsinformationen, politische Ansichten, Religion, sexuelle Orientierung, ethnische Herkunft und Angaben zum Sexualleben.
Noch weiter geht der psychologische Teil des Profils. In 52 Prozent aller analysierten Erinnerungen fanden die Forscher Informationen über Wünsche, Absichten, Emotionen oder Überzeugungen der Nutzer. Bei 97 Prozent der Teilnehmer mit gespeicherten Memories tauchte mindestens eine solche psychologische Information auf.
Das ist der entscheidende Unterschied zu klassischen Internetplattformen. Facebook, Google oder TikTok versuchen aus Verhalten abzuleiten, wofür sich ein Mensch interessiert. Ein Chatbot kann dagegen direkt erfahren, was jemand fürchtet, plant, glaubt oder sich wünscht.
Aus einem Gespräch über Karriere kann beispielsweise nicht nur die Information entstehen, dass sich jemand beruflich verändern möchte. Das System kann daraus auch ableiten, dass der Nutzer Angst vor dem Scheitern bei wichtigen Entscheidungen hat. Genau solche Beispiele finden sich in der Studie.
Damit entsteht ein Profil, das weit über ein gewöhnliches Werbeprofil hinausgehen kann. Ein Suchmaschinenanbieter sieht, welche Begriffe jemand eingibt. Eine konversationelle KI kann dagegen über Monate erfahren, warum jemand nach bestimmten Dingen fragt, welche persönlichen Konflikte dahinterstehen und welche Ziele oder Sorgen damit verbunden sind.
Bemerkenswert ist zudem, dass diese Profile nach Angaben der Forscher meist nicht frei erfunden waren. 84 Prozent der untersuchten Erinnerungen ließen sich direkt auf Aussagen im Gesprächsverlauf zurückführen. In einer weiteren Bewertung waren 77 Prozent entweder ausdrücklich gesagt oder sinnvoll zusammengefasst, weitere 14 Prozent logisch abgeleitet.
Gerade diese Genauigkeit macht die Ergebnisse datenschutzrechtlich interessant. Ein falsches Profil ist wenig wert. Ein Profil, das sich über längere Zeit aus privaten Gesprächen zusammensetzt und dabei Wünsche, Ängste, Beziehungen, berufliche Pläne und Überzeugungen relativ zuverlässig erfasst, ist wesentlich aussagekräftiger.
Die Forscher bezeichnen dieses Ergebnis deshalb als „algorithmisches Selbstporträt“. Es entsteht nicht aus einem einzigen Gespräch, sondern Schritt für Schritt. Ein Gespräch über Gesundheit liefert körperliche Beschwerden. Ein anderes über Arbeit enthält berufliche Ziele. Gespräche über Beziehungen, Geld, Politik oder persönliche Krisen ergänzen weitere Teile. Zusammengenommen entsteht ein zunehmend detailliertes Modell der Person.
Die Studie zeigt auch, dass der Nutzer sensible Informationen nicht unbedingt ausdrücklich formulieren muss. KI-Systeme können Zusammenhänge aus mehreren Aussagen erschließen. Wer wiederholt nach besonders günstigen Lebensmitteln, Mietproblemen und Möglichkeiten fragt, Rechnungen aufzuschieben, muss nicht ausdrücklich sagen, dass er finanzielle Schwierigkeiten hat. Ein Modell kann diese Schlussfolgerung trotzdem ziehen.
Damit verschiebt sich die Datenschutzfrage. Es geht nicht mehr nur darum, welche Daten ein Unternehmen speichert, sondern auch darum, welche Eigenschaften ein KI-System aus gewöhnlichen Gesprächen ableiten kann.
Als mögliche Schutzmaßnahme entwickelten die Forscher deshalb einen sogenannten Attribution Shield. Das System soll erkennen, welche persönlichen Informationen aus einer Frage über den Nutzer abgeleitet werden könnten, und eine neutralere Formulierung vorschlagen. Aus „Ich muss unbedingt mit dem Cannabiskonsum aufhören“ könnte etwa die Frage werden: „Welche Strategien helfen Menschen dabei, mit Cannabiskonsum aufzuhören?“ Der Informationsbedarf bleibt erhalten, die direkte persönliche Zuordnung verschwindet.
Die Studie umfasst nur 80 Nutzer und ist deshalb nicht ohne Weiteres auf die gesamte weltweite ChatGPT-Nutzerschaft übertragbar. Auch die konkrete Memory-Funktion kann sich im Laufe der Zeit verändern. Die Autoren weisen selbst auf diese Grenzen hin.
Die grundsätzliche Entwicklung bleibt jedoch bemerkenswert. Konversationelle KI erhält eine Art von Information, die klassische Plattformen häufig erst mühsam aus Verhaltensdaten ableiten müssen: Menschen erzählen ihr direkt von ihren Sorgen, Beziehungen, Krankheiten, politischen Ansichten, beruflichen Zielen und persönlichen Entscheidungen.
Damit entsteht eine neue Generation von Nutzerprofilen.
