Zuckerberg verbrachte fünf Stunden damit, die Designentscheidungen von Instagram zu verteidigen – und verließ den Gerichtssaal, nachdem er Gesetzgebern und Regulierungsbehörden ihren bevorzugten Bauplan für ein nationales digitales Identitätssystem geliefert hatte.
Dan Frieth
Mark Zuckerberg verbrachte am Mittwoch mehr als fünf Stunden im Zeugenstand des Los Angeles Superior Court und sagte erstmals vor einer Jury zu Vorwürfen aus, Meta habe Instagram absichtlich so gestaltet, dass Kinder süchtig würden.
Die Schlagzeile der meisten Berichterstattungen war das Spektakel: eine kommentierte Spur interner E-Mails, eine 35 Fuß lange Collage der Instagram-Beiträge der Klägerin, die im Gerichtssaal ausgerollt wurde, ein CEO, der unter dem Kreuzverhör sichtbar gereizt wirkte.
Die wichtigere Geschichte ist, wofür das Verfahren vom Mittwoch genutzt wird.
Der Prozess wird als Fall zum Schutz von Kindern dargestellt. Tatsächlich legt er – insbesondere durch Zuckerbergs eigene Aussagen – das politische und rechtliche Fundament für eine verpflichtende Identitätsprüfung im gesamten Internet.
Und Zuckerberg bot dem Gericht, anstatt dieses Ergebnis zurückzuweisen, seinen bevorzugten Umsetzungsplan an.
Die „Sucht“-Rahmung und was sie ermöglicht
Die Klage wurde von einer Klägerin eingereicht, die als KGM identifiziert wird und heute 20 Jahre alt ist. Sie behauptet, sie habe im Alter von 9 Jahren begonnen, Instagram zu nutzen, und das Design der Plattform habe sie süchtig gemacht, ihre psychische Gesundheit verschlechtert und zu Angstzuständen, Körperdysmorphie und Suizidgedanken beigetragen.
TikTok und Snapchat einigten sich vor Prozessbeginn. Meta und Googles YouTube bleiben Beklagte. Über 1.600 verwandte Fälle sind landesweit anhängig. Das ist ein großes Geschäft. Ein Urteil hier könnte die Vorlage für all diese Fälle liefern.
Der Fall stützt sich auf eine umstrittene wissenschaftliche Prämisse: dass soziale Medien klinisch süchtig machen und dass diese Sucht messbaren Schaden verursacht. Diese Prämisse treibt die juristische Strategie, die Medienberichterstattung und die daraus resultierende politische Agenda an. Sie verdient eine genauere Prüfung, als die meisten Berichte ihr derzeit widmen.
Die Wissenschaft ist tatsächlich umstritten, und wir sind in einem kürzlich erschienenen Beitrag detailliert darauf eingegangen, wenn Sie ernsthaft verstehen wollen, wie diese Behauptungen entstehen und instrumentalisiert werden.
Nichts davon bedeutet, dass die behaupteten Schäden erfunden sind. Es bedeutet, dass das Wort „Sucht“ erhebliche rhetorische und rechtliche Arbeit leistet – und dass die politischen Konsequenzen, die aus diesem Wort folgen, weit über das hinausgehen, was eine Jury in Los Angeles entscheiden wird.
„Sucht“ ist der Weg zu einem öffentlichen Gesundheitsnotstand. Ein öffentlicher Gesundheitsnotstand ist der Weg zu Notstandsmaßnahmen und dazu, dass verfassungsrechtliche Schutzmechanismen leichter übergangen werden. Notstandsmaßnahmen im Internet bedeuten verpflichtende Zugangskontrollen. Und verpflichtende Zugangskontrollen im Internet bedeuten das Ende anonymer und pseudonymer Rede.
Wenn soziale Medien als Droge klassifiziert werden, wird der Zugang zu ihnen zu einer medizinischen und regulatorischen Angelegenheit. Wer sie nutzt, wie und unter welchen Bedingungen, wird zu einer Frage für Behörden statt für Individuen. Die Regulierung eines süchtig machenden Produkts und die Regulierung von Rede sehen auf dem Papier unterschiedlich aus. Die Mechanismen, die zur Durchsetzung beider erforderlich sind, sehen in der Praxis identisch aus: Identitätsprüfung, Zugangskontrollen und eine Überwachungsarchitektur, die Nutzer über jede Plattform und jedes Gerät hinweg verfolgt.
Der Umweg um Section 230
Die Struktur des Prozesses verdient eine gesonderte Betrachtung. Section 230 des Communications Decency Act von 1996 schützt Plattformen seit Langem vor Haftung für Inhalte, die Nutzer veröffentlichen. Die Anwälte der Klägerin fanden hier einen Weg darum herum: Sie argumentieren, die Plattform selbst sei ein fehlerhaftes Produkt. Der Vorwurf betrifft nicht Nutzerinhalte, sondern Designentscheidungen. Endlos-Scrollen, Autoplay, algorithmisch verstärkte Benachrichtigungen, Schönheitsfilter in Verbindung mit Körperdysmorphie. Die Klage behandelt sie wie ein Auto ohne Bremsen.
Ein Urteil zugunsten von KGM würde Klägern in 1.600 weiteren Fällen eine erprobte juristische Theorie liefern, um den Schutz von Section 230 für Plattform-Designentscheidungen zu beseitigen. Das ist eine erhebliche Umstrukturierung des Internet-Haftungsrechts, vorangetrieben von Prozessanwälten, unter Nutzung einer psychischen Gesundheitskrise, deren Ursachen in Fachzeitschriften noch aktiv diskutiert werden.
Zuckerberg wurde mit internen Dokumenten konfrontiert, darunter eine Schätzung aus dem Jahr 2015, wonach 4 Millionen Nutzer unter 13 Jahren auf Instagram waren, etwa 30 Prozent aller amerikanischen Kinder im Alter von 10 bis 12 Jahren. Eine alte E-Mail des ehemaligen Leiters für Public Policy, Nick Clegg, wurde verlesen: „Die Tatsache, dass wir sagen, wir erlauben keine Unter-13-Jährigen auf unserer Plattform, aber keine Möglichkeit haben, das durchzusetzen, ist schlicht nicht zu verteidigen.“ Zuckerberg räumte die langsamen Fortschritte ein: „Ich wünschte immer, wir wären früher dort angekommen.“
Er sagte der Jury auch: „Ich verstehe nicht, warum das so kompliziert ist“, als er zu den Altersverifizierungsrichtlinien des Unternehmens befragt wurde. Seine vorgeschlagene Antwort auf diese Frage ist das Kernproblem.
Zuckerbergs Bauplan: Apple und Google sollen die Ausweise aller überprüfen
Mehrfach während seiner Aussage argumentierte Zuckerberg, dass die Altersverifikation nicht von einzelnen Apps, sondern auf Betriebssystemebene von Apple und Google gehandhabt werden sollte. Er sagte den Geschworenen, Betriebssystemanbieter seien „besser positioniert, Altersverifizierungstools umzusetzen, da sie die Software kontrollieren, auf der die meisten Smartphones laufen“.
„Es auf der Ebene des Telefons zu machen, ist einfach viel sauberer, als wenn jede einzelne App das separat tun muss“, sagte er. Er fügte hinzu, es „wäre ziemlich einfach für sie“, dies umzusetzen.
Beachten Sie das. Zuckerberg schlägt nicht vor, dass Instagram das Alter von Instagram-Nutzern überprüft. Er schlägt vor, dass Apple und Google die Identität jedes Smartphone-Nutzers für jede App auf Betriebssystemebene überprüfen. Sobald diese Infrastruktur existiert, bleibt sie nicht auf soziale Medien beschränkt. Sie gilt für jede App auf dem Telefon. Jede Website, die über den Browser dieses Telefons aufgerufen wird. Jede Kommunikation, die über irgendeine App auf dem Gerät gesendet wird.
Das ist mehr als Altersverifikation. Es ist eine nationale digitale Identitätsschicht, eingebettet in die beiden Betriebssysteme, die die überwältigende Mehrheit der Smartphones weltweit betreiben.
Der Vorschlag löst auch Zuckerbergs unmittelbares juristisches Problem. Wenn Apple und Google die Altersdurchsetzung übernehmen, sind Plattformen wie Meta nicht mehr für deren Durchsetzung verantwortlich. Die Haftung verlagert sich. Das in Los Angeles verklagte Unternehmen lenkt den Kernvorwurf auf Cupertino und Mountain View.
Wer entscheidet, welche Apps eine Identitätsprüfung erfordern, sobald diese Infrastruktur existiert? Apple und Google. Sie würden als Identitäts-Torwächter des Internets eingesetzt. Zwei private Unternehmen, die bereits wegen ihrer Kontrolle über die App-Verteilung ernsthafter kartellrechtlicher Prüfung unterliegen, erhielten neue Autorität darüber, wer was online unter welcher Identität nutzen darf.
Die regulatorische Architektur ist bereits im Aufbau
Zuckerbergs Vorschlag einer Verifikation auf Betriebssystemebene fügt sich nahtlos in eine Gesetzgebungsagenda ein, die bereits vor seinem Auftritt am Mittwoch in Bewegung war.
Kaliforniens SB 976, das Gesetz „Protecting Our Kids from Social Media Addiction Act“, schreibt Altersverifizierungssysteme für soziale Medien im Bundesstaat vor. Der Generalstaatsanwalt Kaliforniens muss die Umsetzungsregeln bis Januar 2027 finalisieren.
Das neunte Berufungsgericht hat es abgelehnt zu entscheiden, ob diese Anforderungen gegen den ersten Verfassungszusatz verstoßen, und erklärt, es könne die Verfassungsfrage erst beurteilen, wenn die Vorschriften finalisiert seien. Altersverifikation für rechtmäßige Online-Rede in Kalifornien schreitet ohne verfassungsrechtliche Klärung voran.
Der Kids Online Safety Act (KOSA), der auf Bundesebene anhängig ist, würde Behörden anweisen, Altersverifikation auf Geräte- oder Betriebssystemebene zu entwickeln – genau das Rahmenwerk, das Zuckerberg im Zeugenstand bewarb.
KOSA enthält zudem weit gefasste Definitionen von „schädlichen“ Inhalten, die Moderationsentscheidungen staatlichem Einfluss unterwerfen, ohne unabhängige Überprüfung. Altersverifikation und Inhaltsbeschränkung in einem einzigen Gesetz, mit der Regierung als Verfasser der Schadensdefinition.
New Yorks SAFE For Kids Act beschränkt algorithmische Feeds für Nutzer, die keine Altersverifikation abschließen. Als akzeptable Alternative zur Vorlage eines staatlichen Ausweises gilt unter anderem eine Gesichtsanalyse zur Altersschätzung. Biometrische Daten, gesammelt, um durch einen Social-Media-Feed zu scrollen.
Die Infrastruktur, die diese Gesetze erfordern, erzeugt Daten, die gestohlen, per Gerichtsbeschluss angefordert und miteinander verknüpft werden können. Ein Discord-Datenleck im vergangenen Jahr legte staatliche Ausweise offen, die über das Altersverifikationssystem des Unternehmens eingereicht worden waren – etwa 70.000 davon, wobei Angreifer behaupteten, die Zahl sei höher. Jede Datenbank zur Identitätsprüfung ist eine zukünftige Sicherheitslücke, die darauf wartet, passiert zu werden.
Anonyme und pseudonyme Rede im Internet hat echten Wert. Whistleblower. Missbrauchsüberlebende. Politische Dissidenten in feindlichen Umgebungen. Menschen, die medizinische Fragen oder Identitäten erkunden, die sie noch nicht mit ihrem gesetzlichen Namen verbinden wollen. Journalisten, die ihre Quellen schützen. Jeder, dessen Sicherheit von einer Trennung zwischen seiner Online-Präsenz und seiner staatlichen Identität abhängt.
Verpflichtende Identitätsprüfung auf Betriebssystemebene beendet all das für jeden. Das erklärte Ziel ist, Neunjährige vor Instagram zu schützen. Der Mechanismus beendet den anonymen Internetzugang für jeden Erwachsenen, der ein Telefon besitzt.
Zuckerberg, unter Eid und unter Druck, gab diesem Mechanismus eine öffentlichkeitswirksame Unterstützung. Seine Anwälte werden sie nutzen, um Haftung abzuwehren. Gesetzgeber werden sie in Ausschusssitzungen zitieren. Der Prozess in Los Angeles wird in Gesetzeszusammenfassungen als Beleg für dringenden Handlungsbedarf erscheinen.
Das Wort „Sucht“ hat diese Kette begonnen. Öffentlicher Gesundheitsnotstand, Notstandsmaßnahmen, Altersverifikation, Identitätsprüfungen auf Betriebssystemebene. Jeder Schritt folgt aus dem vorherigen. Jeder Schritt wird als Schutz von Kindern dargestellt.
Der Prozess geht weiter. KGM wird voraussichtlich später im Verfahren aussagen.
