Wissenschaft

Killer-KIs & digitale Diktaturen: Die Zukunft liegt in unseren Händen

Das weltweite Erstarken des Nationalismus und ein technologisches Wettrüsten verheißen nichts Gutes. Dennoch besteht Hoffnung.Freitag, 21. September 2018

Von Simon Worrall
Einem Roboter wird beigebracht, Gegenstände zu erkennen und zu handhaben. Mit der Verbesserung künstlicher Intelligenzen wird ein neues Wettrüsten wahrscheinlich, das auch die Produktion tödlicher Maschinen beinhalten könnte, wie es im Buch „21 Lektionen für das 21. Jahrhundert“ von Yuval Harari heißt.

Yuval Noah Hararis letztes Buch „Eine kurze Geschichte der Menschheit“ war ein globaler Bestseller. In seinem neuen Buch „21 Lektionen für das 21. Jahrhundert“ wendet sich einer der weltweit spannendsten jungen Denker nun der Gegenwart und Zukunft zu. Wie wird das Leben in 50 oder 100 Jahren aussehen? Werden die liberalen Demokratien, auf die sich der Westen gestützt hat, überleben? Werden künstliche Intelligenzen (KIs) und Biotechnologie den Menschen wirtschaftlich überflüssig machen? Werden digitale Diktaturen unser Leben und unsere Gedanken kontrollieren? 

National Geographic führte ein Telefoninterview mit Harari, der erklärte, warum Nationalismus keine globalen Probleme lösen kann, warum KIs zahlreiche Menschen aus ihren Jobs drängen könnten und wie Meditation ihm Einblicke in seinen Verstand gewährte, die ihm die Wissenschaft nicht geben konnte. 

Zu Beginn Ihres Buches ergründen Sie, wie „die Verschmelzung von Informationstechnologie und Biotechnologie bald Milliarden von Menschen aus ihren Jobs drängen und sowohl die Freiheit als auch die Gleichheit schwächen könnte“. Können Sie uns das etwas detaillierter erklären?

Zunächst einmal versuche ich zu betonen, dass uns nicht nur eine Revolution in den Bereichen Informationstechnologie, künstliche Intelligenz und maschinelles Lernen bevorsteht, die derzeit die meiste Aufmerksamkeit erhalten. Wir entschlüsseln auch die Geheimnisse des menschlichen Körpers und Gehirns – wie wir denken, wie wir uns Verhalten und warum wir das tun. Wir gewinnen immer mehr Rechenleistung und erschaffen immer bessere künstliche Intelligenzen. Beides zusammen verändert alles. Wenn Menschen im Grunde hackbare und entschlüsselbare Tiere sind, wenn wir ein immer besseres Verständnis für die Funktionsweise dieses Tieres erlangen und wenn wir die nötige Rechenleistung haben, um all die Daten auszuwerten, die wir über uns sammeln – dann erhalten wir daraus einen Algorithmus, der uns potenziell besser verstehen kann, als wir es selbst können. Wenn man all das miteinander kombiniert, erhält man Konzerne, die unsere Bedürfnisse besser verstehen; Regierungspolitiker, die unsere Entscheidungen besser manipulieren können, und immer mehr Jobs, die Computer besser ausführen können als Menschen. 

Eine weitere beunruhigende Vorhersage lautet, dass „Big-Data-Algorithmen digitale Diktaturen erschaffen könnten, in denen sämtliche Macht in den Händen einer kleinen Elite liegt“.  

Wenn man sich den Kampf zwischen Demokratien und Diktaturen im 20. Jahrhundert ansieht, dann neigen wir dazu, ihn als Kampf unterschiedlicher ethischer Ideale anzusehen. Aber es war auch ein Kampf zwischen unterschiedlichen Systemen zur Informationsverarbeitung und Entscheidungsfindung. Demokratie ist ein System, das Informationen und Macht zwischen vielen Individuen und Institutionen aufteilt. Eine Diktatur funktioniert so, dass sich alle Informationen, Entscheidungen und Macht an einem Ort konzentrieren. In Anbetracht der technologischen Realität des 20. Jahrhunderts waren Diktaturen einfach weniger effizient. Einer der Hauptgründe für den Sieg der USA über die Sowjetunion während des Kalten Kriegs war, dass das dezentrale System der USA einfach bessere wirtschaftliche und politische Entscheidungen getroffen hat als das zentralistische System der Sowjetunion. 

Einige Menschen sind der übermäßig optimistischen Ansicht, dass irgendein Naturgesetz besagt, dezentrale Systeme würden unter allen Umständen besser funktionieren als zentralistische Systeme. Deshalb würde die Demokratie immer effizienter sein als Diktaturen und diese immer besiegen. Diese Annahme ist aber unbegründet. Wenn man sich die Geschichte ansieht, die Entwicklung von Technologie, Wirtschaft und Politik, dann sieht man ein Pendel, das vor und zurück schwingt. Manchmal sind dezentrale Systeme im Vorteil und manchmal sind es zentralistische Systeme. 

Im 21. Jahrhundert könnten wir in eine Ära eintreten, in der zentralistische Systeme aufgrund der Macht von maschinellem Lernen, Big Data und KIs wieder besser funktionieren als dezentrale Systeme. Was die Sowjets in den Sechzigern nicht geschafft haben, wird 2030 möglich werden, wenn man entsprechend gute Algorithmen und genügend Daten zur Verfügung hat. Das wird nicht mit Sicherheit so kommen. Aber wir sollten uns vor dem Aufstieg digitaler Diktaturen in Acht nehmen. 

Eine ihrer provokanteren Aussagen lautet: „Wenn 1.000 Menschen eine ausgedachte Geschichte einen Monat lang glauben, sind das Fake News. Wenn eine Milliarde Menschen sie ein Jahrtausend lang glauben, ist es eine Religion.“ Ist in der heutigen Welt kein Platz mehr für Religion?  

[Lacht] Es gibt dafür bestimmt noch einen Platz. Es ist sehr schwierig, eine große Zahl von Menschen ohne eine Mythologie dazu zu bringen, effektiv miteinander zu kooperieren. Egal, ob sich diese Mythologie um irgendeinen Gott, eine Nation oder ein ideologisches System dreht – ohne Fiktion ist es fast unmöglich, Kooperation im großen Stil zu arrangieren. Ich leugne also nicht die Effektivität oder gar das Wohlwollen von Religion, ich leugne nur ihre Wahrhaftigkeit. Das ist ein gänzlich anderes Thema. 

Fast alle religiösen Menschen akzeptieren die Behauptung, dass Religion auf ausgedachten Geschichten basiert – mit einer ganz einfachen Ausnahme: Alle Religionen außer meiner sind Fake News. Wenn man einen Juden fragt, dann wird er einem erzählen: „Ja, das Judentum ist die Wahrheit, aber das Christentum? Jesus war nicht der Sohn Gottes und ist nicht von den Toten auferstanden! Das sind Fake News.“ Dann fragt man einen Christen, der wiederum sagen wird: „Nein, nein, nein. Das ist die Wahrheit. Aber diese ganzen Geschichten darüber, dass Mohammed eine Offenbarung vom Erzengel Gabriel erhalten hat und der Koran das Wort Gottes ist, das sind Fake News!“ Dann fragt man einen Muslim … 

Sie bezeichnen Nationalismus oder „die Anbetung einer Nation“ als einen gefährlichen Mythos. Warum glauben Sie, dass wir eine „neue globale Identität“ brauchen? 

Nationalismus ist kein unsterblicher Teil der menschlichen Psyche oder Gesellschaft. Eine Menge Leute glauben, dass er irgendwie in unseren Genen verankert ist. Aber Menschen gibt es schon seit mehr als zwei Millionen Jahren. Etwa 99 Prozent dieser Zeit über lebten sie nicht in Nationen. Sie lebten in kleinen Gemeinschaften, Clans, Familien und Stämmen, deren Hauptmerkmal war, dass jeder jeden kannte. Das Wunder des Nationalismus – der erst in den letzten 1.000 Jahren entstand – ist die Fähigkeit, Millionen von Fremden dazu zu bringen, effektiv zu kooperieren und sich umeinander zu kümmern, obwohl sie sich nicht kennen. Dahingehend war das eine sehr gute Entwicklung. 

Aber im 21. Jahrhundert stoßen wir an die Grenzen des Nationalismus, weil unsere größten Probleme heutzutage – im Gegensatz zu vor 100 oder 1.000 Jahren – globale Probleme sind. Unsere drei größten Probleme sind Atomkrieg, Klimawandel und technologische Umwälzung. Keines davon kann man auf einer nationalen Basis lösen. Wenn man beispielsweise Angst vor Genmanipulation an Menschen und deren Folgen hätte, könnte man in den USA die Genmanipulation verbieten. Aber wenn die Chinesen dann durch Genmanipulation Übermenschen erschaffen, wird man bald in Versuchung geraten, das eigene Verbot zu missachten, weil man nicht abgehängt werden will. Wenn wir glauben, dass Technologien wie Genmanipulation und KIs reguliert werden müssen, um das Schlimmste zu verhindern, dann brauchen wir globale Übereinkommen. Derzeit bewegen wir uns in die entgegengesetzte Richtung, größtenteils aufgrund des Erstarkens des Nationalismus. 

In den letzten zwei bis drei Jahren hat ein sehr ernstzunehmendes und immer schneller werdendes Wettrüsten im Bereich der künstlichen Intelligenzen begonnen. Wenn wir so weitermachen, werden all unsere schlimmsten Alpträume über KIs Wirklichkeit werden. Jedes Land wird sich denken: „Wir wollen keine Killerroboter entwickeln, weil wir die Guten sind. Aber diese anderen sind alle skrupellos und böse und wir können ihnen nicht gestatten, uns gegenüber einen Vorteil zu haben. Deshalb müssen wir sie zuerst entwickeln.“ Das ist die Logik des Wettrüstens. 

Vicarious, ein KI-Unternehmen mit Sitz in der San Francisco Bay Area, entwickelt Software, welche den Inhalt von Fotos und Videos genau so gut wie Menschen interpretieren kann.
Wenn ein Land mit der genetischen Manipulation von Menschen beginnt, wird es dem Buch zufolge wahrscheinlich, dass andere Länder nachziehen – selbst, wenn Gesetze das verbieten.

Am Ende ihres Buches sprechen Sie darüber, wie sich Meditation auf Ihr Leben ausgewirkt hat. Sie behaupten sogar, sie könne Einblicke liefern, die uns die Neurowissenschaft nicht geben kann.  

Als ich in Oxford in Geschichte promovierte, empfahl mir ein guter Freund, es mal mit Meditation zu versuchen. Ich war sehr unzufrieden mit meinem Leben und hatte keine Ahnung, was ich ändern sollte. Nach einem Jahr dachte ich also: „Warum nicht?“ Damals war ich 24 und hielt mich für sehr intelligent und gebildet. Ich dachte, ich hätte die Kontrolle über mein Leben. Nach zehn Tagen Meditation wurde mir klar, dass ich meinen eigenen Verstand fast überhaupt nicht begriff oder kontrollierte. Gedanken und Wünsche kamen mir einfach unaufgefordert in den Sinn und ich hatte nur ein sehr begrenztes Verständnis dafür, wie und warum sie das taten. 

Die Wissenschaft hat mir sehr viele wirksame Methoden gegeben, um die dominanten Fiktionen zu dekonstruieren, die unsere Welt formen und uns sagen, wie wir uns verhalten sollen, ob es nun religiöse, wirtschaftliche oder politische Systeme sind. Aber sie hat mir keine wirklichen Lösungen für das Problem des Elends und des Leids im Leben gegeben. Was mir die Meditation zunächst einmal geben konnte, ist ein Verständnis dafür, wie viel Leid in unserem Leben von unserem Verstand erzeugt wird. Man kann die Welt um sich herum verändern. Aber wenn man nicht auch den eigenen Verstand verändert, kann man sich in der bestmöglichen Lage befinden, mit genug zu Essen und lieben Menschen, und kann trotzdem unglücklich sein. Das zu begreifen, war für mich ein wichtiger Schritt, um mich selbst zu verstehen und ein viel glücklicheres Leben zu führen. 

Wir haben viele mächtige Werkzeuge, um das Gehirn zu verstehen. Aber der einzige Verstand, zu dem wir einen direkten Zugang haben, ist unser eigener. Ich kann Sie in einen MRT-Scanner stecken und direkt beobachten, was in Ihrem Gehirn passiert. Ich kann Dinge sehen, die Sie nicht sehen können, beispielsweise welche Neuronen reagieren oder welche biochemischen Prozesse in welchem Teil Ihres Gehirns ablaufen. Aber ich kann ihre subjektiven Empfindungen nicht sehen und habe keinen direkten Zugang zu Ihrem Schmerz oder Ihrer Liebe. Wenn ich das subjektive Empfinden von Liebe ergründen will, dann habe ich nur zu meinem eigenen subjektiven Empfinden von Liebe einen Zugang. Der Gedanke hinter der Meditation Vipassana, die ich praktiziere, ist es, ein methodisches System für die Beobachtung der subjektiven Erfahrungen zu haben, die sich im Verstand abspielen. 

Wenn man Ihr Buch liest, könnten viele Menschen annehmen, dass Sie der Zukunft der Menschheit pessimistisch entgegenblicken. Dabei glauben Sie im Grunde, dass wir den Herausforderungen gewachsen sein könnten. Wie können wir das schaffen? Und sind Sie ein Pessimist? 

Ich würde meine Position in drei einfachen Aussagen zusammenfassen: Ich glaube, dass die Welt der Dinge heute besser als je zuvor in der Geschichte ist. Das disqualifiziert mich schon mal als Pessimisten. Zweitens: Es sieht ziemlich schlecht aus. Ja, alles ist besser als je zuvor, aber es gibt trotzdem noch viele Probleme. Drittens: Es kann noch viel, viel, viel schlimmer werden. 

Das bedeutet nicht, dass das unvermeidlich ist. Dass heutzutage alles besser ist, ist keinem göttlichen Wunder zu verdanken, sondern weisen menschlichen Entscheidungen. Es ist uns in großen Teilen gelungen, Hunger, Epidemien, Krankheiten und selbst Gewalt auf der ganzen Welt zu reduzieren. Wir leben in der friedvollsten Ära der Geschichte. Das haben wir Dingen zu verdanken, die wir getan haben. Das impliziert, dass wir die Macht haben, das Schlimmste zu verhindern und die Welt zu verbessern. Aber das liegt in unserer Hand. Wenn wir die falschen Entscheidungen treffen, wird niemand kommen, um uns zu retten. 

Ein guter Anfang wäre es, einerseits zu begreifen, über welch immense Macht die Menschheit nun verfügt, und andererseits angesichts unseres Wissens bescheiden zu bleiben. Es gibt eine Diskrepanz zwischen der gewaltigen Manipulationsmacht, die Menschen über Ökosysteme und ihren eigenen Körper haben, und dem begrenzten Verständnis für diese Systeme. In den Ökosystemen ist das Ergebnis davon dann so was wie der Klimawandel. Wir wissen, wie man Wälder rodet oder Öl fördert und es verbrennt. Wir haben aber nur ein begrenztes Wissen darüber, wie sich das auf das Klima und die Ökosysteme auswirkt. 

Das gleiche könnte im Hinblick auf unsere Fähigkeit passieren, den menschlichen Geist und Körper zu verändern. Um das Schlimmste zu verhindern, sollten wir unser Verständnis von unser Macht bündeln und vertiefen, was uns hoffentlich verantwortungsvoller machen würde. Gleichzeitig sollten wir die Grenzen unseres Wissens ganz bescheiden anerkennen, was uns im Hinblick auf unsere Eingriffe in die Welt deutlich vorsichtiger machen sollte. 

Das Interview wurde zugunsten von Länge und Deutlichkeit redigiert. 

Der Artikel wurde ursprünglich in englischer Sprache auf NationalGeographic.com veröffentlicht.

Wei­ter­le­sen