Unabhängige Analysen und Informationen zu Geopolitik, Wirtschaft, Gesundheit, Technologie

KI im Finanzsystem könnte “das Ende der Demokratie” bedeuten: Harari an BIZ
Bildquelle: BIS Innovation Summit auf YouTube

KI im Finanzsystem könnte “das Ende der Demokratie” bedeuten: Harari an BIZ

Yuval Noah Harari sagt, dass KI für Außerirdische Intelligenz stehen sollte, dass Banken und Regierungen mehr Geld schaffen sollten, um Vertrauen zu schaffen, und dass Bitcoin schlecht ist, weil es auf Misstrauen basiert

Der Historiker und Autor Yuval Noah Harari sagt, dass KI wie eine außerirdische Intelligenz ist, die zu einer politischen und sozialen Krise führen und das Ende der Demokratie bedeuten könnte.

In seiner Rede auf der letzten Sitzung des Innovationsgipfels der Bank für Internationalen Zahlungsausgleich (BIZ) am Dienstag erläuterte Harari, wie KI über das Finanzsystem in einer düsteren Zukunft, in der niemand in der Lage wäre, sie zu verstehen oder zur Rechenschaft zu ziehen, Schaden in der Gesellschaft anrichten könnte.

Seine Lösungen umfassten die Schaffung guter Institutionen zur Regulierung und Überwachung von KI und die Erlaubnis für Banken und Regierungen, “so viel Geld zu schaffen, wie sie wollen” in einer Zukunft, die von “elektronischem Geld” dominiert wird, das nicht Bitcoin sein sollte, weil Bitcoin, wie er sagte, “ein Geld ist, das auf Misstrauen” gegenüber Regierungen und Banken beruht.

“Was passiert, wenn […] niemand mehr das Finanzwesen versteht, weil die KI es zu kompliziert gemacht hat? Das könnte zu einer politischen und sozialen Krise führen, wie wir sie noch nie erlebt haben. Es könnte dazu führen, dass sich die Macht vom Menschen auf Algorithmen und außerirdische Formen der Intelligenz verlagert.”

Yuval Noah Harari, BIS Innovation Summit, Mai 2024

Die Menschen müssen das Finanzwesen verstehen“, sagte Harari vor dem BIZ-Publikum.

Ich glaube, dass derzeit vielleicht ein Prozent der Bevölkerung wirklich versteht, wie das Finanzsystem funktioniert.

Was passiert, wenn diese Zahl auf Null sinkt? Kein Mensch, kein Präsident, kein Premierminister, niemand in der Zentralbank versteht mehr etwas von Finanzen, weil KI es zu kompliziert gemacht hat.

Das könnte zu einer politischen und sozialen Krise führen, wie wir sie noch nie erlebt haben. Es könnte dazu führen, dass sich die Macht von Menschen auf Algorithmen und außerirdische Formen von Intelligenz verlagert”, fügte er hinzu.

Für Harari ist Geld gleichbedeutend mit Vertrauen, und er ist kein Fan von Bitcoin, weil es aus dem Misstrauen der Menschen gegenüber Regierungen und Banken entstanden ist.

“Wenn ich Bitcoin als Historiker betrachte, mag ich es nicht, weil es ein Geld ist, das auf Misstrauen aufgebaut ist”

Yuval Noah Harari, BIS Innovation Summit, Mai 2024

Wenn ich mir Bitcoin als Historiker ansehe, mag ich es nicht, weil es ein Geld ist, das auf Misstrauen aufgebaut ist.

Die zentrale Idee von Bitcoin ist im Grunde elektronisches Gold – dass wir den Banken, den Regierungen nicht trauen, also wollen wir ihnen nicht die Möglichkeit geben, so viel Geld zu schaffen, wie sie wollen, also schaffen wir diesen Bitcoin. Es ist eine Währung des Misstrauens.

Ich glaube, dass die Zukunft dem elektronischen Geld gehört, aber wir haben in den letzten Jahrhunderten gesehen, dass es eigentlich eine gute Idee ist, den Banken und Regierungen die Möglichkeit zu geben, mehr und mehr Geld zu schaffen, um mehr Vertrauen in der Gesellschaft aufzubauen.

Unter der Prämisse, dass “das Produkt des Finanzsystems Vertrauen ist“, sagte Harari, dass KI im Finanzsystem letztlich zum Ende der Demokratie führen könnte, denn wenn niemand es versteht, wo bleibt dann die Rechenschaftspflicht?

Wenn kein Mensch mehr für die Wirtschaft verantwortlich wäre – auch nicht die Politiker -, was würde das für die demokratischen Gesellschaften bedeuten?

“Wenn wir einen Punkt erreichen, an dem wir es nicht mehr verstehen können, dann ist das zumindest in demokratischen Gesellschaften wirklich das Ende der Demokratie”

Yuval Noah Harari, BIS Innovationsgipfel, Mai 2024

Wenn wir einen Punkt erreichen, an dem wir das nicht mehr verstehen können, dann ist das, zumindest in demokratischen Gesellschaften, wirklich das Ende der Demokratie“, sagte Harari.

Wenn eine demokratische Öffentlichkeit nicht mehr in der Lage ist, finanzielle Entscheidungen zu verstehen und jemanden dafür zur Rechenschaft zu ziehen – und das ist ein großer Teil dessen, worum es in der Politik geht -, dann geht es um Finanzen; es geht um die Wirtschaft.

Künstliche Intelligenz erweist sich als kreative Kraft in Kunst und Wissenschaft und ist in der Lage, Musik, Filme und Literatur auf eine Weise zu komponieren, die uns fremd erscheint.

Irgendwann wird sie in der Lage sein, neue Finanzinstrumente zu schaffen, die in Geschwindigkeit, Umfang und Komplexität so außerirdisch sind, dass niemand mehr weiß, was wirklich vor sich geht.

Aus diesem Grund erklärte Harari dem BIZ-Publikum, dass die KI eigentlich eine außerirdische Intelligenz sei, woraufhin das Publikum in Gelächter ausbrach.

“Es ist besser, KI als eine außerirdische Intelligenz zu betrachten”

Yuval Noah Harari, BIS Innovationsgipfel, Mai 2024

Die Initialen “KI” stehen für “künstliche Intelligenz”, aber die neuen Formen der KI haben nichts Künstliches an sich – sie entwickeln sich von selbst“, sagt Harari.

Es ist besser, sich vorzustellen, dass KI für Alien Intelligence steht, weil sie wirklich auf eine uns fremde Weise denkt und schafft.

Das gilt sogar für die Finanzwelt […] Ich denke, wir werden auch in diesem Bereich KI-Kreativität sehen, die neue Arten von Finanzgeräten hervorbringt, die sich kein Mensch jemals vorstellen könnte“, fügte er hinzu.

Hararis Lösung für das Problem, dass die KI im Finanzsystem außer Kontrolle gerät, besteht darin, auf “gute menschliche Institutionen” zurückzugreifen, um sicherzustellen, dass wir die Technologie klug einsetzen.

“Wir müssen gute Institutionen aufbauen. Das ist das Einzige, was uns wirklich vor dem gefährlichsten Potenzial der KI schützen kann.”

Yuval Noah Harari, BIS Innovation Summit, Mai 2024

Die Lösung, die wir in der Geschichte immer wieder sehen, sind Institutionen“, sagte Harari.

Das ist das Beste, was der Mensch bisher zustande gebracht hat, und wir müssen gute Institutionen aufbauen.

Das ist das Einzige, was uns wirklich vor dem gefährlichsten Potenzial der KI und auch anderer Technologien schützen kann“, fügte er hinzu.

Harari hält Vorträge bei Institutionen auf der ganzen Welt, darunter Veranstaltungen wie die Jahrestagung des Weltwirtschaftsforums (WEF), der AI for Good Summit der Vereinten Nationen, der New York Times Climate Hub, das New Yorker Festival und an verschiedenen akademischen Einrichtungen wie Harvard, Stanford und dem King’s College Cambridge.

Auf der WEF-Jahrestagung 2018 erklärte er: “Organismen sind Algorithmen”, und auf der Tagung 2020 witzelte er: “Wir sind keine geheimnisvollen Seelen mehr, wir sind jetzt hackbare Tiere.”