© Mikael Lundblad

Dystopie mit Durchblick

Geschätzte Lesezeit ca. 29 Minuten

Der „Orwell des 21. Jahrhunderts“ heißt James Bridle (Jahrgang 1980). In London hat er Computer Science und Cognitive Science studiert und über Künstliche Intelligenz (KI) promoviert. Als Künstler und Autor beleuchtet er die Schnittstellen zwischen analoger und digitaler Welt. In seinem brillanten Buchdebüt „New Dark Age“ bringt er ans Licht, wie die neuen Technologien unser Leben immer mehr durchdringen, aber auch, wie wir durch eine andere Art des Denkens konstruktiv gegensteuern können.

© Mikael Lundblad

Vertrauen Sie Ihrem Navi blind?
Selten, vor allem, weil ich in Südamerika lebe, einer Weltgegend, die mit digitalisierten Karten nicht sehr gut ausgestattet ist und die zudem weit weniger genau sind als etwa in Europa. Das hat allerdings den Vorteil, dass man leichter eine kritische Einstellung entwickelt.

Was spricht dafür?
Jedes Mal, wenn man dem Navigationssystem blind vertraut, das ja durch jemand anderen eingerichtet wurde – sei es die Kartenfirma im eigenen Land, ein Autokonzern oder ein Unternehmen im Silicon Valley – liefert man sich nicht nur der Karte der Hersteller aus, sondern auch ihrer ganzen Sicht der Welt. Digitalisierte Landkarten, wie überhaupt Computer, sind Werkzeuge, um bestimmte Sichtweisen der Welt – und nicht die Welt an sich – zu zeigen. Deshalb nehme ich solche Instruktionen lieber als Vorschläge statt als Anweisungen.

Welche Rolle spielen Apps in Ihrem Alltag?
Wie jedermann habe ich ein Smartphone. Aber ich habe oft den Eindruck, dass die meisten der von mir bevorzugen Apps im Widerspruch stehen zu seiner beabsichtigten Funktion: verschlüsselte Chat-Apps, um mich vor unerwünschter Überwachung zu schützen, Tools für private Netznutzung und Offline-Kartenwerke. Meine liebsten Anwendungen von KI sind solche, die ich selbst eingerichtet habe: Tools, um mich zu verirren und Neues zu entdecken, statt mich undurchsichtigen lenkenden Systemen und unbekannten Absichten auszuliefern.

Wie würden Sie Künstliche Intelligenz für Nicht-Eingeweihte kompakt erklären?
Künstliche Intelligenz ist ein unscharfer Begriff für Maschinen, die Entscheidungen treffen können, ohne ausdrücklich dafür programmiert zu sein. Sie können aus Erfahrungen lernen und neue Strategien entwickeln. Aber bei kritischer Betrachtung ist das nicht dasselbe wie menschliche Intelligenz: Allgemein gesagt ist Künstliche Intelligenz dümmer, aber gut bei sehr eng eingrenzbaren Problemen wie zum Beispiel, Fahrtrouten zu wählen oder in großen Datenmengen aussagekräftige Zusammenhänge aufzuspüren. Gelegentlich liefert KI auch radikal andere Denkwege, die Menschen weder verstehen noch widerlegen können.

„Die Frage ist, wer das Sagen hat …“

Neue Technologien und das rasante Tempo, mit dem sie unser Leben verändern, sind eines Ihrer großen Themen. Fabelhafter Fortschritt für die Menschheit? Oder zum Fürchten?
Am Fortschritt als solchem ist nichts zu fürchten. Was mich immer beunruhigt, ist die Frage, wer das Sagen hat und welche Absichten dahinterstecken – oder ob sie sich ihrer Absichten überhaupt bewusst sind. Wenn der Fortschritt allein durch das technisch Machbare angetrieben wird, wird dadurch nur eine menschliche Absicht verschleiert, über die sich ihre Nutzer nicht im Klaren sind, so dass sie darüber auch nicht entscheiden können.

Was waren für Sie die Hauptauslöser, „New Dark Age“ zu schreiben?
Wir haben in den letzten hundert Jahren unsere Fähigkeit, das Wetter vorherzusagen, enorm verbessert. Das haben wir geschafft, indem wir immer mehr Daten gesammelt und immer bessere Computermodelle entwickelt haben, um die Zukunft vorherzusagen. Aber im Gefolge des Klimawandels sind diese Modelle immer weniger genau und unsere Fähigkeit, die Zukunft zu verstehen, ist zunehmend trüber geworden.

Wie kommt das?
Der Klimawandel selbst ist eine Folge unseres mechanistischen Denkens: des Glaubens, wir könnten die Welt durch Technik allein verstehen und beherrschen. Wie die Polkappen schmilzt auch das Wissen von Jahrtausenden, was es noch schwieriger für uns macht, einen anderen Weg einzuschlagen. Der Ansporn, mein Buch zu schreiben, ist dieser erschreckende Effekt zwischen unserem Wunsch, mehr zu wissen, und dem Scheitern unseres tatsächlichen Verstehens, dem wir uns gegenübersehen.

„Uns fehlt Mut zu verstehen, was wir wissen.“

Wir können uns vor der tagtäglichen Informationsflut kaum mehr retten. Was ist das Unheilvolle daran?
Die größte Gefahr stellt heute die Vorstellung dar, wir könnten besser auf der Welt leben, indem wir weitere Daten über sie zusammentragen, sei es, dass man sich zu sehr auf wissenschaftliche Berechnungen des Klimawandels verlässt, sei es, dass man durch massenhafte Überwachung aufs Schlimmste tyrannisiert wird. Mit den Worten des großen schwedischen Schriftstellers Sven Lindqvist: „Wir wissen bereits genug. Daran fehlt es uns nicht. Was uns fehlt, ist der Mut zu verstehen, was wir wissen, und daraus Konsequenzen zu ziehen.“

Bitte vollenden Sie den folgenden Satz: Fachfrau oder Fachmann für ein bestimmtes Spezialthema zu sein, ist gut und schön, aber …
… Kompetenz auf einem eng umgrenzten Gebiet und das Festhalten an bestehenden Wissensstrukturen ist Teil des Problems. Kognitive Vielfalt, angewandt auf so verschiedene Situationen wie Bürgerversammlungen, Schachspiel zwischen Mensch und Computer oder halluzinogene Rituale, bei denen halluzinogene Drogen im Spiel sind, wird uns mehr helfen, den Zivilisationswandel zuwege zu bringen, den wir brauchen, um das nächste Jahrhundert zu überleben.

Sie haben nicht nur die Technik im Blick, sondern auch unsere gegenwärtige Weltsicht. Welche Begriffe charakterisieren unser gegenwärtiges Denken am besten?
„Computerdenken“ ist der Ausdruck, den ich für eine sehr enge Denkweise verwende, die die unendliche Vielfalt der Welt auf Daten reduziert. Eine Denkweise, die annimmt, alles sei berechenbar und vorhersagbar, und die zugleich die Macht – die politische wie die finanzielle – in den Händen von immer wenige Menschen konzentriert.

„Das Dunkel ist vielleicht auch fruchtbar.“

Die Gegenstrategie zur Finsternis wäre, Licht ins Dunkel zu bringen – also: Aufklärung. Ihre Mission in Ihrem neuen Buch?
Aufklärung beschreibt einen wachsenden Prozess des Verstehens, was eigentlich zu mehr Frieden, Gleichheit und Gerechtigkeit führen soll. Aber eines der klaren Ergebnisse unseres seit einem halben Jahrhundert andauernden Experiments mit der Informationstechnik zeigt, dass Information allein nicht genügt, um diese Ziele zu erreichen. Wissen allein reicht nicht: Wir brauchen Fürsorge, Mitgefühl, Rücksichtnahme und einen Sinn für Zusammenhänge – und all das entsteht mit unserer Technik nicht von selbst. Für mich ist das Dunkel, das unser Missbrauch der Technik erzeugt, vielleicht auch fruchtbar, indem es uns nachdenken und anders denken lässt, was wir eigentlich wollen.

Ihnen geht es um ein neues Denken, das nicht nur zeitgemäß, sondern zukunftsweisend ist …
Unser Zukunftsdenken muss das Computerdenken erweitern – über den menschlichen Bereich hinaus in alle Richtungen. Es muss Erklärungen einbeziehen für das Verstehen und Handeln von jedermann und allen Lebewesen. Wie wäre es, wenn man KI nicht für Ausbeutung und Überwachung nutzen würde, sondern als Hilfe, das Denken von Vögeln und Bäumen zu verstehen? Wie würde sich eine Künstliche Intelligenz verhalten, die einen Tintenfisch zum Vorbild hätte statt einer Aktiengesellschaft? Und was würden wir bei einem solchen Experiment über unseren Planeten insgesamt erfahren und wie unseren Verhältnis zu ihm verbessern?

„Ich setze auf einen Wandel.“

Sie fordern eine „echte Bildung“. Was stellen Sie sich darunter vor?
Bildung bedeutet umfassendes Verstehen und nicht einfach Wissenserwerb. Die Fähigkeit, nicht nur Werkzeuge anzuwenden, sondern sie auch selbst herzustellen. Ich setze auf einen Wandel, aber ich kann und will ihn nicht definieren …

Sie verweisen auf Unzulänglichkeiten unserer Sprache. Welche Defizite sehen Sie und was hat es mit der Meta-Sprache auf sich, die Sie für wichtig halten?
„Die Wolke“ ist dafür ein wirklich gutes Beispiel: Wir sprechen über die Computer-Wolke wie über einen magischen Ort in der Ferne, mit dem wir unsere Fotos teilen, dem wir unser Geld anvertrauen, unsere Geheimnisse erzählen, der aber völlig undurchschaubar und unsichtbar für uns ist. Aber in Wirklichkeit ist die Wolke wirklich und konkret: Sie besteht aus riesigen Gebäuden voller Computern; sie gehören Firmen, die in bestimmten Ländern sitzen, bestimmten Gesetzen unterliegen, deren Software von Menschen mit bestimmten Vorstellungen und Absichten geschrieben wurde. Das zu wissen ist wichtig, aber es reicht nicht. In meinem Buch spreche ich davon, uns die Vorstellung „Wolke“ noch einmal gründlich vorzunehmen, damit wir uns über die sehr wirkliche Komplexität der Wolke Gedanken machen können: dass sie zwar konkret ist, man aber nichts über sie weiß; dass sie Auswirkungen auf uns hat, wir sie aber nicht beherrschen; dass sie Teil der Welt, aber zugleich Teil von uns ist.

Sie sind auch Künstler. Würden Sie Ihre Werke auch als eine Art Meta-Sprache verstehen?
Meine künstlerischen Arbeiten, meine Filme und Installationen sind Verfahren, um mit anderen Mitteln genau die gleichen Fragen zu durchdenken, um die es mir beim Schreiben geht. Was die Frage ist, weiß ich – wie beim Schreiben – oft erst, wenn ich etwas gemacht habe. Bei der Metasprache geht es mehr um den Vorgang, das Experimentieren, als darum, Ergebnisse festzulegen und auf sie hinzuarbeiten.

Das Gebot der Stunde?
Die unvermeidlichen Auswirkungen des Klimawandels abzumildern, ist die einzige Priorität: Das wirkt sich auf alle anderen politischen Entscheidungen aus, die wir treffen. Aber statt von „Interconnection“ (Verknüpfung), was dem einzelnen Knotenpunkt den Vorrang gibt, spreche ich lieber von entanglement“ (Verflechtung), was bedeutet, dass es auf alles ankommt. Es ist nicht der Einzelne ODER die Gesellschaft, nicht die Computer ODER der Mensch, Leistung ODER Versagen, sondern was von all dem zutage tritt und wirkt. Gegen den Klimawandel kann man nicht gewinnen, sondern nur überleben, und man kann das zusammen oder alleine tun.