Fachleute fürchten, KI könne unsere Zivilisation zerstören. Doch wie bedrohlich ist sie wirklich?
In seinem neuen Buch „Nexus“, aus dem dieser Auszug stammt, wirft der Historiker Yuval Noah Harari einen Blick auch auf die Geschichte der
Industriellen Revolution.
Zahlreiche Fachleute warnen, die unkontrollierte Entwicklung der Künstlichen Intelligenz könne die Verdrängung, gar die Vernichtung der Menschheit zur Folge haben. Bei einer Umfrage unter 2778 KI-Forschern gab im Jahr 2023 mehr als ein Drittel an, sie schätzten die Wahrscheinlichkeit einer Auslöschung der Menschheit durch fortschrittliche Künstliche Intelligenz auf mehr als 10 Prozent. Im selben Jahr unterzeichneten fast dreißig Nationen – darunter China, die Vereinigten Staaten und Großbritannien – die Bletchley Declaration, die einräumte, dass „KI-Modelle mit ihren herausragenden Fähigkeiten die Gefahr bergen, beabsichtigt oder unbeabsichtigt schweren oder gar katastrophalen Schaden anzurichten“.
Für manche Menschen klingen die Warnungen vor dem Zusammenbruch der Zivilisation wie übertriebene Weltuntergangsgesänge. Denn wann immer eine mächtige neue Technologie aufkam, war sie begleitet von der Angst vor dem apokalyptischen Niedergang. Mit dem Aufkommen der Industriellen Revolution wuchs die Befürchtung, Dampfkraft und Telegrafen seien Vorboten eines gesellschaftlichen Verfalls. Am Ende jedoch brachten die Maschinen die wohlhabendsten Gesellschaften der Geschichte hervor: Die meisten Menschen genießen heute weitaus bessere Lebensbedingungen als ihre Vorfahren im 18. Jahrhundert. Als noch weitaus segensreicher, versprechen KI-Enthusiasten wie Marc Andreessen und Ray Kurzweil, würden sich intelligente Maschinen erweisen. Die Menschheit werde eine noch bessere Gesundheitsversorgung und Bildung genießen und die KI sogar dazu beitragen, das Ökosystem vor dem Kollaps zu retten.
Leider zeigt ein genauerer Blick in die Geschichte, dass wir tatsächlich sehr gute Gründe haben, uns vor mächtigen neuen Technologien zu fürchten. Selbst wenn am Ende die positiven Aspekte dieser Technologien die negativen überwiegen sollten – der Weg dorthin führt durch viele Irrungen und Wirrungen. Neuartige Technologien enden oft in historischen Katastrophen, nicht weil die Technologie von Natur aus schlecht ist, sondern weil die Menschen erst mit der Zeit lernen, sie vernünftig zu nutzen.
Ein gutes Beispiel dafür ist die Industrielle Revolution. Als sich die Industrietechnologie im 19. Jahrhundert weltweit auszubreiten begann, stellte sie die traditionellen ökonomischen, sozialen und politischen Strukturen auf den Kopf und machte den Weg frei für die Entstehung vollkommen neuer Gesellschaften, die potentiell wohlhabender und friedlicher waren. Allerdings war es alles andere als einfach zu lernen, wie man gutartige Industriegesellschaften aufbaut, und es waren viele kostspielige Experimente vonnöten, die Hunderte Millionen Opfer forderten.
Eines dieser kostspieligen Experimente war der moderne Imperialismus. Ihren Ursprung hatte die Industrielle Revolution im Großbritannien des späten 18. Jahrhunderts. Im Laufe des 19. Jahrhunderts wurden industrielle Technologien und Produktionsmethoden dann auch in anderen europäischen Ländern von Belgien bis Russland sowie in den Vereinigten Staaten und Japan übernommen. Imperialistische Denker, Politiker und Parteien in diesen industriellen Kernländern behaupteten, dass die einzige lebensfähige Industriegesellschaft ein Kolonialreich sei. Das Argument war, dass die neuen Industriegesellschaften im Gegensatz zu den relativ selbstgenügsamen Agrargesellschaften viel stärker von ausländischen Märkten und Rohstoffen abhängig seien und nur ein Kolonialreich diesen beispiellosen Hunger stillen könne. Imperialisten befürchteten, dass Länder, die sich industrialisierten, aber keine Kolonien eroberten, durch rücksichtslosere Konkurrenten von wichtigen Rohstoffen und Märkten ausgeschlossen würden. Einige Imperialisten vertraten die Ansicht, der Erwerb von Kolonien sei nicht nur für das Überleben des eigenen Staates unerlässlich, sondern auch für den Rest der Menschheit von Vorteil. Denn nur Kolonialreiche könnten die Segnungen der neuen Technologien an die sogenannte unterentwickelte Welt weitergeben.
Folglich bauten Industrieländer wie Großbritannien und Russland, die schon über Imperien verfügten, diese stark aus, während Länder wie die Vereinigten Staaten, Japan, Italien und Belgien sich daranmachten, eigene Kolonien zu erwerben. Ausgestattet mit massenproduzierten Gewehren und Geschützen, angetrieben durch Dampfkraft und befehligt mittels Telegrafie, zogen die Truppen der Industrienationen über den Globus, von Neuseeland bis Korea und von Somalia bis Turkmenistan. Millionen von Indigenen mussten mit ansehen, wie ihre traditionelle Lebensweise unter den Rädern dieser Industriearmeen zermalmt wurde. Es verging mehr als ein Jahrhundert des Elends, ehe die meisten Menschen erkannten, dass die Industrieimperien eine fürchterliche Idee waren und dass es bessere Wege gab, eine Industriegesellschaft aufzubauen und sich die notwendigen Rohstoffe und Märkte zu sichern.
Auch der Stalinismus und der Nationalsozialismus waren äußerst kostspielige Experimente beim Aufbau von Industriegesellschaften. Führer wie Stalin und Hitler waren der Ansicht, die Industrielle Revolution habe ungeheure Kräfte freigesetzt, die nur der Totalitarismus zügeln und voll ausschöpfen könne. Sie verwiesen auf den Ersten Weltkrieg – den ersten „totalen Krieg“ der Geschichte – als Beleg dafür, dass das Überleben in der industriellen Welt eine totalitäre Kontrolle aller Aspekte von Politik, Gesellschaft und Wirtschaft verlangte. In ihren Augen war die Industrielle Revolution ein riesiger Schmelzofen, der alle bisherigen gesellschaftlichen Strukturen mit ihren menschlichen Unvollkommenheiten und Schwächen einschmelze und die Möglichkeit biete, perfekte Gesellschaften zu schmieden, die von „reinen“ Übermenschen bevölkert würden.
Auf dem Weg zur perfekten Industriegesellschaft lernten Stalinisten und Nationalsozialisten, wie man Millionen von Menschen mit industriellen Methoden ermordet. Züge, Stacheldraht und telegrafische Befehle wurden zu einer beispiellosen Tötungsmaschinerie verbunden. Heute blicken die meisten Menschen entsetzt auf die Taten der Stalinisten und Nationalsozialisten zurück, doch damals begeisterten sie Millionen mit ihren kühnen Visionen. Im Jahr 1940 konnte man leicht glauben, dass Stalin und Hitler das Vorbild für die Nutzung industrieller Technologie waren, während die zaudernden liberalen Demokratien auf dem Weg auf den Kehrichthaufen der Geschichte waren.
Allein die Tatsache, dass es konkurrierende Rezepte für den Aufbau von Industriegesellschaften gab, führte zu kostspieligen Auseinandersetzungen. Die beiden Weltkriege und der Kalte Krieg lassen sich als eine Debatte über den richtigen Weg dorthin betrachten, in der alle Seiten voneinander lernten und gleichzeitig mit neuen industriellen Methoden der Kriegsführung experimentierten. Im Laufe dieser Debatte starben zig Millionen Menschen, und die Menschheit stand kurz davor, sich selbst auszulöschen.
Neben all diesen anderen Katastrophen zerstörte die Industrielle Revolution auch das globale ökologische Gleichgewicht und verursachte eine Welle von Aussterbeereignissen. Zu Beginn des 21. Jahrhunderts sterben jedes Jahr angeblich bis zu 58.000 Arten aus; die Gesamtpopulation der Wirbeltiere ist zwischen 1970 und 2014 um 60 Prozent zurückgegangen.
Auch das Überleben der menschlichen Zivilisation ist bedroht. Da wir anscheinend immer noch nicht in der Lage sind, die Industriegesellschaft ökologisch nachhaltig zu gestalten, geht der viel gepriesene Wohlstand der heutigen Menschengeneration in entsetzlicher Weise auf Kosten anderer empfindungsfähiger Lebewesen und künftiger menschlicher Generationen. Vielleicht werden wir irgendwann einen Weg finden – womöglich mithilfe von KI –, ökologisch nachhaltige Industriegesellschaften zu schaffen. Doch bis dahin steht das endgültige Urteil über die Industrielle Revolution noch aus.
Wenn wir die fortdauernde Schädigung des Ökosystems einmal ausklammern, können wir uns mit dem Gedanken trösten, dass die Menschen irgendwann gelernt haben, ihre Industriegesellschaften gütiger zu gestalten. Koloniale Eroberungen, Weltkriege, Völkermorde und totalitäre Diktaturen waren beklagenswerte Experimente, aus denen die Menschen lernten, wie man es nicht machen sollte. Am Ende des 20. Jahrhunderts, so könnte man argumentieren, hat die Menschheit es mehr oder weniger richtig gemacht.
Dennoch ist die Botschaft für das 21. Jahrhundert düster. Wenn die Menschheit so viele schreckliche Lektionen brauchte, um den Umgang mit Dampfkraft und Telegrafie zu lernen, was wird dann der Preis für die Beherrschung von Biotechnologie und Künstlicher Intelligenz sein?
Die Erfindung der KI ist potentiell bedeutsamer als die Erfindung der Dampfmaschine, des Telegrafen und jeder bisherigen Technologie, denn die KI ist die erste Technologie, die in der Lage ist, selbständig Entscheidungen zu treffen und Ideen zu entwickeln. KI ist kein Werkzeug, KI ist ein Akteur. Reflexbogen, Musketen und Atombomben ersetzten menschliche Muskeln beim Akt des Tötens. Aber das menschliche Gehirn konnten sie bei der Entscheidung, wen man töten sollte, nicht ersetzen. Little Boy – die Bombe, die auf Hiroshima abgeworfen wurde – explodierte mit einer Sprengkraft von 12.500 Tonnen TNT, doch in Sachen Intelligenz war Little Boy ein Blindgänger. Er konnte rein gar nichts entscheiden.
Bei Computern ist das anders. Was die Intelligenz angeht, übertreffen Computer nicht nur Atombomben um Längen, sondern auch alle früheren Informationstechnologien wie Tontafeln, Druckerpressen und Rundfunkgeräte. Tontafeln speicherten Informationen über Steuern, aber sie konnten weder selbst entscheiden, wie hoch die Steuer sein sollte, noch konnten sie eine völlig neue Steuer erfinden. Druckerpressen kopierten Informationen wie die Bibel, konnten aber weder entscheiden, welche Texte in die Bibel aufgenommen werden sollten, noch konnten sie neue Kommentare zum heiligen Buch verfassen. Rundfunkgeräte verbreiteten Informationen wie politische Reden und Sinfonien, aber sie konnten weder entscheiden, welche Reden oder Sinfonien übertragen werden sollten, noch konnten sie diese schreiben beziehungsweise komponieren.
Computer können das alles. Waren Druckerpressen und Rundfunkgeräte passive Werkzeuge in Menschenhand, so werden Computer bereits zu aktiven Akteuren, die sich unserer Kontrolle und unserem Verständnis entziehen und Initiativen zur Gestaltung von Gesellschaft, Kultur und Geschichte ergreifen können.
Vielleicht werden wir eines Tages Mittel und Wege finden, um KI zu kontrollieren und zum Wohle der Menschheit einzusetzen. Doch müssen wir eine weitere Abfolge globaler Imperien, totalitärer Regime und Weltkriege durchlaufen, um herauszufinden, wie wir sie zu unserem Besten nutzen können? Die Technologien des 21. Jahrhunderts sind viel mächtiger – und potentiell viel zerstörerischer – als die des 20. Jahrhunderts. Wir haben daher weniger Spielraum für Fehler. Wenn es für die Nutzung der Industrietechnologie Schulnoten gäbe, dann hätte die Menschheit im 20. Jahrhundert bestenfalls eine „4“ verdient – gerade genug, um zu bestehen. Im 21. Jahrhundert liegt die Latte deutlich höher. Dieses Mal müssen wir es besser machen.