Gefahr aus

Was macht „Nexus“ zum perfekten Titel Ihres neuen Buches?
Nexus bedeutet Verbindung. Das Buch beginnt mit der Frage: Was ist Information? Information ist nicht Wahrheit. Information ist Verbindung. Und das Buch betont, dass unwahre Informationen – Lügen, Fiktionen, Fantasien – die Menschen oft viel effizienter miteinander verbinden als die Wahrheit. Das ist der Grund, warum wir im Laufe der Geschichte einen offensichtlichen Anstieg der menschlichen Verbundenheit, aber keinen entsprechenden Anstieg der Weisheit beobachten können.

Was ist Ihre Mission in „Nexus“?
Wir verfügen heute über die ausgefeilteste Informationstechnologie der Geschichte, aber die Menschen sind nicht mehr in der Lage, miteinander zu reden. Das demokratische Gespräch in zahlreichen Ländern – von den USA bis Israel – bricht zusammen. Und obwohl die Menschheit über mehr Informationen als je zuvor verfügt, trifft sie viele selbstzerstörerische Entscheidungen und steuert auf einen Atomkrieg und einen ökologischen Kollaps zu. Das Buch zielt darauf ab, diese Paradoxien zu verstehen. Wenn die Menschen so weise sind, warum sind wir dann so selbstzerstörerisch?

Sie präsentieren die unterschiedlichsten Haltungen zu künstlicher Intelligenz: von Enthusiasmus bis zu schlimmsten Befürchtungen. Welche Position haben Sie selbst zu KI? Sehen Sie KI als Fluch oder Segen?
Ich versuche, eine ausgewogene Sichtweise beizubehalten und mich darauf zu konzentrieren, KI zu verstehen, bevor wir über sie urteilen. Das Wichtigste, was die Menschen verstehen müssen, ist, dass KI kein Werkzeug ist. Sie ist ein unabhängiger Akteur. Sie ist die erste Technologie überhaupt, die von sich aus Entscheidungen treffen und neue Ideen entwickeln kann. Was wird mit der menschlichen Zivilisation geschehen, wenn Millionen hochintelligenter nicht-menschlicher Agenten sich unseren wirtschaftlichen, sozialen und politischen Netzwerken anschließen und anfangen, eigenständige Entscheidungen zu treffen und neue Ideen zu entwickeln?

Welche Risiken möchten Sie Leserinnen und Lesern hauptsächlich bewusst machen?
Es war für die Menschen einfach, die Risiken der Kerntechnik zu verstehen. Es gab eine große Bedrohung, die sich jeder leicht vorstellen konnte: den Atomkrieg. Im Gegensatz dazu schafft die KI Hunderte von Bedrohungsszenarien, von denen viele nur schwer vorstellbar sind, wie z. B. neuartige, von der KI verursachte Finanzkrisen, von der KI geführte religiöse Kulte und von der KI gesteuerte totalitäre Imperien. Diese Ausbreitung von Bedrohungen ist kein Zufall. Das kommt davon, wenn man Millionen von nicht-menschlichen Agenten freisetzt, die selbständig Entscheidungen treffen und Ideen entwickeln können, an die kein Mensch je gedacht hat.

Was sind die Herausforderungen durch KI? Welche Weichen müssen gestellt werden?
Die größte Herausforderung besteht darin, dass wir die Kontrolle über diese Technologie verlieren werden. Sie hat ein immenses positives Potenzial, aber auch ein immenses negatives Potenzial. KI-Enthusiasten sagen, dass jede Technologie mit Risiken verbunden ist, die uns aber nicht davon abhalten sollten, sie zu entwickeln und zu nutzen. Wir benutzen Autos trotz des Risikos von Autounfällen. Aber wenn man lernt, ein Auto zu fahren, lernt man als erstes, wie man die Bremsen benutzt. Erst dann lernt man, wie man das Gaspedal betätigt. Bei der KI drücken wir aufs Gaspedal, bevor wir gelernt haben, die Bremsen zu benutzen.

„Nexus“ beginnt mit einem historischen Teil. Wofür ist dieser Streifzug durch die Geschichte die unverzichtbare Basis?
Geschichte ist nicht das Studium der Vergangenheit. Sie ist das Studium des Wandels. Sie lehrt uns, wie sich Dinge verändern, was gleich bleibt und was wirklich neu ist. Wir können die KI-Revolution nicht verstehen, ohne sie mit früheren Informationsrevolutionen wie der Erfindung des Buchdrucks zu vergleichen. Es gibt einige Parallelen. So löste die Erfindung des Buchdrucks auch eine Flut von Fake News und Verschwörungstheorien aus, die zu den Religionskriegen und der Hexenjagd im Europa der frühen Neuzeit führten. Aber es gibt auch entscheidende Unterschiede. Die Druckerpresse kopierte nur menschliche Fantasien über Hexen und Dämonen. Die KI kann völlig neue Arten von Hexen und Dämonen erfinden.

Welche Verbindung besteht zwischen Ihrem Welterfolg „Sapiens“ und Ihrem neuen Buch „Nexus“?
„Nexus“ baut auf „Sapiens“ auf. In „Sapiens“ habe ich die zentrale Bedeutung der Fiktion für die menschliche Geschichte erläutert. Götter, Nationen, Unternehmen und Währungen sind allesamt fiktive Gebilde, die nur in den Geschichten existieren, die wir uns gegenseitig erzählen. „Nexus“ erforscht die Konsequenzen. Was passiert, wenn Menschen enorme Macht erlangen, indem sie sich um gemeinsame Fantasien über Götter und Unternehmen scharen?

Sie beleuchten komplexe Beziehungen, z.B. zwischen Bürokratie und Mythologie. Wie wirkt beides zusammen und wo zeigt sich diese Verbindung?
Keine komplexe Gesellschaft kann ohne Bürokratie funktionieren. Aber keine Bürokratie kann ohne Mythologie funktionieren, denn jeder Bürokrat erhält seine Befehle letztlich von einem Mythenmacher. Ein immer wiederkehrendes Problem in der Geschichte ist, dass die Menschen von der Mythologie fasziniert sind, während sie von der Bürokratie gelangweilt sind. Folglich sind wir oft zu begeistert, um Mythologie zu verstehen, und zu gelangweilt, um Bürokratie zu verstehen. Um die KI-Revolution zu verstehen, müssen wir jedoch beides sehr gut beherrschen, denn KI wird unsere neuen Bürokraten sein – und unsere neuen Mythenschöpfer.

Im großen Hauptteil Ihres Buches zeigen Sie, dass das neue Informationsnetzwerk „radikal anders“ funktioniert. Was unterscheidet KI von sämtlichen früheren Informationstechnologien?
KI ist anders, weil sie selbst Entscheidungen treffen und Ideen entwickeln kann. Gutenbergs Druckerpresse konnte die Bibel kopieren, aber sie konnte weder neue Kommentare zur Bibel schreiben, noch ein völlig neues heiliges Buch verfassen. KI kann das. Im Laufe der Geschichte haben die Menschen in einer Kultur gelebt, die von menschlichen Köpfen geschaffen wurde. In Zukunft werden wir in einer Kultur leben, die zunehmend von nicht-menschlicher Intelligenz geprägt sein wird.

Im dritten Teil beschäftigen Sie sich mit „Computerpolitik“. Was verstehen Sie darunter?
Unsere Politik ist bereits zu einem gewissen Grad „Computerpolitik“. So hängt beispielsweise der Versuch, die Wahrheit über den Klimawandel herauszufinden, von Berechnungen ab, die nur Computer durchführen können. Aber gleichzeitig hängt der Versuch, einen politischen Konsens über den Klimawandel zu erreichen, von den Computern ab, die unsere Nachrichten verwalten und oft Fake News und Verschwörungstheorien verbreiten. Wir befinden uns in einer politischen Sackgasse in Bezug auf den Klimawandel, auch weil die Computer in einer Sackgasse stecken. Eine Reihe von Computern warnt uns vor einer drohenden Umweltkatastrophe, aber eine andere Reihe von Computern fordert uns auf, Videos anzusehen, die diese Warnungen in Frage stellen. Welchen Computern sollen wir glauben? Menschliche Politik ist jetzt auch Computerpolitik.

Wie ist die Demokratie in Zeiten von KI zu retten? Welche Grundsätze im Umgang mit KI sind notwendig für unser Überleben?
Eine Idee ist, die Fälschung von Menschen zu verbieten, so wie wir auch die Fälschung von Geld verbieten. Vor dem Aufkommen der künstlichen Intelligenz war es unmöglich, Menschen zu fälschen, also hat sich niemand die Mühe gemacht, dies zu verbieten. Jetzt wird die Welt mit gefälschten Menschen – Bots, die sich als Menschen ausgeben –überschwemmt, was einer der Hauptgründe für die Unfähigkeit der Menschen ist, einander zu vertrauen und ein Gespräch zu führen. Die Regierungen sollten dies verbieten. Wenn sich jemand beschwert, dass solche Maßnahmen gegen die Redefreiheit verstoßen, sollte er daran erinnert werden, dass Bots keine Redefreiheit haben – nur Menschen haben Rechte.

Inwiefern ist Ihr Buch „Nexus“ ein Plädoyer der neuen Menschlichkeit?
Die Menschheit hat die Weisheit, mit KI umzugehen, aber nur, wenn wir zusammenarbeiten. Leider bricht die internationale Zusammenarbeit gerade dann zusammen, wenn wir sie am meisten brauchen. Diktatoren wie Wladimir Putin und populistische Führer wie Donald Trump untergraben die menschliche Zusammenarbeit, weil sie die Welt als einen Dschungel betrachten, in dem die Starken die Schwachen ausplündern. Sie sollten daran erinnert werden, dass es einen neuen Super-Räuber im Dschungel gibt. Wenn die Menschen untereinander kämpfen, werden wir alle – Amerikaner, Russen, Deutsche und Ukrainer – leichte Beute für die KI sein.

Wie nutzen Sie KI in Ihrem Alltag?
Ich versuche, sie zu nutzen, ohne von ihr benutzt zu werden. Eine KI-Funktion, die ich verwende, ist die automatische Übersetzung zwischen Sprachen. Ich bin erstaunt, wie gut sie geworden ist. KI-Systeme wie ChatGPT sind keine „glorifizierte Autovervollständigung“. Sie haben ein tiefes Verständnis für Sprache. Sie verstehen z. B. das semantische Feld von Wörtern besser als die meisten Menschen. Sie wissen auch, wie man ein Argument aufbaut und einen Satz mit dem nächsten auf logische Weise verbindet. Noch vor einigen Jahren dachten viele Experten, dass KI dazu niemals in der Lage sein würde.