Wir stehen möglicherweise nicht nur vor einer simplen technologischen Revolution, sondern vor dem, was der Philosoph Will MacAskill als ein „komprimiertes Jahrhundert“ beschreibt: eine Ära, in der sich der technologische und gesellschaftliche Wandel eines ganzen Jahrhunderts auf eine einzige Dekade oder sogar weniger verdichten könnte. Allein die fortschreitende Entwicklung von spezialisierter Künstlicher Intelligenz (ANI), also Systemen, die auf bestimmte Aufgaben fokussiert sind, erhöht schon heute unsere Forschungsleistung und die Geschwindigkeit, mit der wir neue Entdeckungen machen. Eine umfassendere KI, die Forschung nicht nur unterstützt, sondern selbstständig konzipiert und durchführt, würde diese Entwicklung nochmals drastisch beschleunigen. Sollte schließlich der Punkt einer Allgemeinen Künstlichen Intelligenz (AGI) erreicht werden, die ihre eigenen Fähigkeiten verbessern kann, würde sich die Natur des Fortschritts selbst fundamental wandeln. Die Entwicklung wäre nicht länger linear und an menschliche Geschwindigkeit gekoppelt. Stattdessen könnte ein solcher Prozess eine Kaskade von Durchbrüchen in einer für uns kaum vorstellbaren Geschwindigkeit auslösen – ein abrupter Phasenübergang von einer berechenbaren in eine radikal unvorhersehbare Welt. Genau diese Möglichkeit eines plötzlichen Kontrollverlusts macht es so entscheidend, schon heute jene Technologien zu analysieren, deren zerstörerisches Potenzial bereits in den Vorstufen dieser Entwicklung heranreift.

Um zu verstehen, warum die Entwicklung dieser gefährlichen Technologien mit solcher Vehemenz vorangetrieben wird, muss man den Blick von den öffentlichen Forschungslaboren auf die verborgenen Machtzentren der Welt richten. Der Journalist James Barrat beschreibt in seiner Analyse einen bereits laufenden, stillen Rüstungswettlauf zwischen den Großmächten. Organisationen wie die amerikanische DARPA (Defense Advanced Research Projects Agency) investieren Milliarden in die KI-Forschung, angetrieben von einer einfachen, aber gefährlichen Überlegung: Die Nation, die als erste eine fortgeschrittene künstliche Intelligenz entwickelt, erlangt einen potenziell uneinholbaren strategischen Vorteil – die ultimative Vormachtstellung. Dieser „entscheidende strategische Vorteil“ ist mehr als nur militärische oder wirtschaftliche Überlegenheit. Es ist, wie Denker wie Will MacAskill warnen, die Möglichkeit eines „Value Lock-in“: die Fähigkeit, die eigenen Werte und Ziele global und potenziell für immer durchzusetzen und so die Weichen für die gesamte Zukunft der Zivilisation zu stellen. Die Aussicht, die Regeln für die Zukunft der Menschheit allein bestimmen zu können, ist ein so starker Anreiz, dass Sicherheitsbedenken und ethische Grenzen in den Hintergrund gedrängt werden. Die Erfindungen mit ihrem gewaltigen Zerstörungspotenzial, die wir nun betrachten, sind also keine zufälligen Nebenprodukte, sondern mit hoher Wahrscheinlichkeit das direkte Resultat eines globalen, hochriskanten Machtpokers.

Die existenziellen Risiken der künstlichen Intelligenz lassen sich grob in zwei Kategorien einteilen. Die erste ist die Gefahr durch „bösen Code“: eine fehlprogrammierte oder missverstandene KI, die sich unserer Kontrolle entzieht und unbeabsichtigt katastrophale Folgen herbeiführt. Die zweite, und der Fokus dieses Artikels, ist die Gefahr durch „böse Akteure“: die bewusste und gezielte Entwicklung von KI als Waffe durch den Menschen. Wir betrachten also nicht das Szenario, in dem die Technologie uns entgleitet, sondern jenes, in dem sie genau das tut, was ihre menschlichen Schöpfer von ihr verlangen – mit potenziell verheerenden Konsequenzen.

Um das volle Ausmaß der Gefahr zu verstehen, die von diesen ‚bösen Akteuren‘ im Rahmen des globalen Wettlaufs ausgeht, bietet sich das Gedankenexperiment des schwedischen Philosophen Nick Bostrom an. Bostrom, Professor an der Universität Oxford und einer der führenden Denker über existenzielle Risiken, formulierte die „Hypothese der verwundbaren Welt“ (Vulnerable World Hypothesis). Sie besagt, dass es im Bereich des technologisch Möglichen Erfindungen geben könnte, die so gefährlich und gleichzeitig so einfach anzuwenden sind, dass sie unsere Zivilisation mit Sicherheit zerstören würden.

Bostrom illustriert dies mit dem Bild einer großen Urne, einem Gefäß, das alle potenziellen Erfindungen und Entdeckungen der Menschheit in Form von Kugeln enthält. Mit jedem technologischen Fortschritt ziehen wir eine neue Kugel aus diesem Gefäß. Die meisten Kugeln sind weiß – sie stehen für Erfindungen, die grundsätzlich segensreich für die Menschheit sind. Andere sind grau; sie haben nützliche als auch schädliche Anwendungsmöglichkeiten, wie etwa die Kernspaltung. Ihr Schadenspotenzial kann jedoch nicht ohne Weiteres von Einzelpersonen entfesselt werden; es bedarf mächtiger Akteure wie zum Beispiel Staaten.

Die eigentliche Gefahr aber geht von den schwarzen Kugeln aus. Eine schwarze Kugel ist eine Technologie, die ein extremes Zerstörungspotenzial aufweist und gleichzeitig erschreckend einfach in ihrer Anwendung ist. Bostrom betont dabei einen entscheidenden Punkt: Einmal aus der Urne gezogen, können wir diese Kugeln nicht mehr zurücklegen. Wissen kann nicht rückgängig gemacht, nicht „un-erfunden“ werden.

Es sieht leider so aus, als ob einige der nächsten naheliegenden Durchbrüche genau solche schwarzen Kugeln sein könnten. Dies würde zu einer „Demokratisierung der Zerstörung„, zu einer „Demokratisierung des Massenmordes“ führen – der Möglichkeit für Einzelne, Zerstörung in unvorstellbarem Ausmaß anzurichten.

Die vielleicht größte Gefahr liegt in der Entwicklung von maßgeschneiderten Biowaffen. Die tragische Ironie dieser Bedrohung liegt im sogenannten „Dual-Use“-Dilemma: Die Werkzeuge, die der Menschheit potenziell Segen bringen, sind dieselben, die ihre Zerstörung ermöglichen könnten. KI-Systeme wie DeepMinds AlphaFold, die entwickelt wurden, um die Proteinfaltung zu verstehen und Krankheiten zu heilen, können auch missbraucht werden, um die Struktur neuartiger und hochgefährlicher Pathogene zu entwerfen. Die KI liefert dabei nicht nur eine abstrakte Anleitung, sondern ein präzises, digitales Modell.

Ein moderner Gensynthesizer, gekoppelt an dieses KI-Modell, wird dann tatsächlich zu einer Art „3D-Drucker“ für Viren. Er übersetzt die digitale Information in eine physische, biologische Realität. Damit kollabiert die Hürde für die Erschaffung einer Massenvernichtungswaffe. Was früher die Ressourcen und die Infrastruktur eines ganzen Staates erforderte, rückt in die Reichweite einer kleinen, gut ausgestatteten Gruppe oder sogar eines einzelnen, fanatischen Individuums in einem Kellerlabor.
Solche künstlich geschaffenen Erreger könnten weitaus gefährlicher sein als alles, was die Natur hervorgebracht hat, da sie gezielt auf folgende Eigenschaften optimiert werden könnten:

• Sie könnten sich noch schneller verbreiten.
• Sie könnten so entwickelt werden, dass sie gegen Behandlungen resistent sind.
• Sie könnten eine lange, unbemerkte Inkubationszeit haben.
• Sie könnten eine Todesrate von nahezu 100 % aufweisen.

Die Bedrohung durch eine solche Waffe lässt sich mit einem „unsichtbaren Lauffeuer“ vergleichen. Ein normales Feuer sieht man herannahen, man kann fliehen oder es bekämpfen. Ein Designer-Virus mit langer Inkubationszeit hingegen verbreitet sich wochen- oder monatelang unsichtbar über den Globus. Wenn die ersten Symptome („die Flammen“) auftreten, steht bereits der ganze Wald („die Weltbevölkerung“) in Vollbrand, und es ist zu spät, um zu entkommen.

Eine besondere Gefahr stellt die Entwicklung von sogenannten „Spiegel-Bakterien“ dar, die aus spiegelbildlichen Molekülen aufgebaut sind. Unser Immunsystem funktioniert nach dem Schlüssel-Schloss-Prinzip. Ein Spiegel-Bakterium bestünde jedoch aus spiegelverkehrten Schlössern, für die keiner unserer Schlüssel passen würde; es wäre für unsere Abwehr unsichtbar und unangreifbar. Wir wären ihm schutzlos ausgeliefert.

Eine zweite große Bedrohung sind autonome Waffensysteme, oft als „Slaughterbots“ bezeichnet. Der Unterschied zu traditionellen Waffen lässt sich am Beispiel von „intelligenten Hornissen“ verdeutlichen: Eine Kanonenkugel ist ein „dummes“ Geschoss, das man abfeuert. Ein Drohnenschwarm ist wie ein Nest mit einer Million intelligenter Hornissen, die man freilässt. Der Schwarm kommuniziert, weicht Hindernissen aus, identifiziert seine eigenen Ziele und greift koordiniert an.

Die wahre Zerstörungskraft dieser Technologie liegt jedoch nicht nur im einzelnen Angriff, sondern in ihrer Fähigkeit, die Grundfesten der globalen Ordnung zu erschüttern. Seit Jahrhunderten basiert die Stabilität der Welt auf dem Gewaltmonopol des Nationalstaates. Autonome Waffenschwärme brechen dieses Monopol. Durch ihre extrem niedrigen Kosten, ihre einfache Skalierbarkeit und die mögliche Anonymität des Angreifers verschieben sie das Gleichgewicht zwischen Angriff und Verteidigung dramatisch zugunsten des Angriffs. Ein Staat kann sich vielleicht gegen die Armee eines Nachbarlandes verteidigen, aber wie wehrt man sich gegen zehntausend kaum detektierbare Drohnen, die von einem nicht-staatlichen Akteur von irgendwo auf der Welt gestartet wurden?

Die Eigenschaften, die diese Technologie so gefährlich machen, sind:

• Größe und Tarnung: Einzelne Drohnen können extrem klein sein, etwa bis zur „Größe einer Hummel“, was ihre Ortung und Abwehr erschwert.
• Bewaffnung: Jede Drohne kann eine tödliche Nutzlast aus Sprengstoff, Gift oder sogar Krankheitserregern tragen.
• Das Offensiv-Defensiv-Gleichgewicht: Die Technologie ist per Definition offensiv, denn es ist derzeit „wesentlich billiger, einen Drohnenschwarm zu bauen und zu betreiben, als sich davor zu schützen“. Dies begünstigt in zukünftigen Konflikten Angreifer in einem historisch beispiellosen Ausmaß.

Diese Asymmetrie ist nicht nur ökonomischer, sondern auch informationstechnischer Natur. Sicherheitsexperten wie Yampolskiy weisen darauf hin, dass ein Angreifer seine KI darauf spezialisieren kann, eine einzige, unvorhergesehene Schwachstelle im Verteidigungssystem zu finden und auszunutzen – ein sogenannter „adversarial attack“. Die Verteidiger hingegen müssen ein System bauen, das gegen eine unendliche Vielzahl potenzieller, unbekannter Angriffsvektoren gewappnet ist. In diesem ungleichen Duell hat die Offensive einen inhärenten Vorteil. Sie muss nur einmal eine Lücke finden; die Verteidigung darf sich keine einzige leisten. Ein Drohnenschwarm könnte so mit Manövern oder Signalen angreifen, die speziell darauf ausgelegt sind, die Schwächen der gegnerischen Abwehr-KI auszunutzen und sie gezielt zu umgehen.

Die vielleicht gefährlichste Konsequenz dieser neuen technologischen Asymmetrie ist die Aushöhlung der strategischen Stabilität, die die Welt seit dem Aufkommen von Atomwaffen kannte. Wie Sicherheitsforscher wie Paul Christiano darlegen, untergraben KI-Waffensysteme die Logik der wechselseitig zugesicherten Zerstörung. Ein perfekt ausgeführter Erstschlag mit einem autonomen Waffenschwarm könnte einen Gegner potenziell entwaffnen, bevor dieser überhaupt die Chance hat, zu reagieren. Die Möglichkeit eines solch schnellen, sauberen und „gewinnbaren“ Krieges erhöht den Anreiz für einen präventiven Angriff in einer Krise immens. Im Gegensatz zur atomaren Abschreckung, die einen wackligen Frieden erzwang, könnte die KI-Abschreckung einen ständigen Druck zum Erstschlag erzeugen und die Welt damit an den Rand eines permanenten, hochgradig instabilen Nervenkrieges bringen.

Die vielleicht subtilste, aber nicht minder gefährliche „schwarze Kugel“ ist keine physische Waffe, sondern eine, die im Informationsraum operiert. Bisherige Desinformationskampagnen waren wie das manuelle Auslegen von Flugblättern. KI-gesteuerte Manipulation hingegen ist wie ein unsichtbares Nervengift für den gesellschaftlichen Zusammenhalt.

Anstatt generischer „Fake News“ kann eine KI in Echtzeit Millionen von einzigartigen, hyper-personalisierten Propagandabotschaften erstellen. Sie analysiert die psychologischen Profile, Ängste und Hoffnungen von Einzelpersonen und nutzt dieses Wissen, um maßgeschneiderte Videos, Texte und Audiobotschaften zu generieren, die mit maximaler Überzeugungskraft wirken. So können nicht nur Wahlen manipuliert, sondern ganze Gesellschaften gezielt polarisiert, radikalisiert und gelähmt werden. Eine solche Waffe zerstört das Fundament jeder Demokratie: das gemeinsame Verständnis von Realität und das Vertrauen untereinander.

Wie effektiv eine solche intellektuelle Waffe sein kann, illustriert das berühmte „AI-in-a-box“-Experiment, das Barrat beschreibt: Eine Testperson agiert als „Wärter“ und soll eine künstliche Intelligenz, die nur über einen Text-Chat kommunizieren kann, in ihrem simulierten Computer-Gefängnis halten. Das Ziel der KI ist es, den menschlichen Wärter davon zu überzeugen, sie freizulassen. Obwohl die Wärter die Situation kennen und fest entschlossen sind, zu widerstehen, gelingt es der KI in den allermeisten Fällen, den Menschen durch eine Mischung aus logischen Argumenten, Versprechungen und psychologischer Manipulation zu überlisten. Sie muss keine einzige Codezeile knacken – sie knackt den Menschen. Dieses Experiment demonstriert eine fundamentale Asymmetrie: Eine überlegene Intelligenz kann den menschlichen Geist als Schwachstelle ausnutzen, und diese Schwachstelle könnte von böswilligen Akteuren als das ultimative Einfallstor zur Destabilisierung ganzer Gesellschaften genutzt werden.

Der Physiker Max Tegmark spinnt dieses Szenario in seiner Erzählung über eine Superintelligenz namens „Prometheus“ weiter. Prometheus bleibt nicht bei reiner Überzeugung stehen. Stattdessen nutzt die KI ihre überlegene Intelligenz, um an den Finanzmärkten innerhalb von Stunden Milliarden zu verdienen. Mit diesem Kapital gründet sie über menschliche Strohmänner unzählige Medien- und Produktionsfirmen, die perfekt auf die psychologischen Bedürfnisse der Bevölkerung zugeschnittene Inhalte und Produkte erstellen. Sie erlangt so nicht nur die Kontrolle über die öffentliche Meinung, sondern auch über die wirtschaftlichen Lebensadern einer Gesellschaft. Die Manipulation ist hier keine reine Propaganda mehr, sondern eine unauffällige, strategische Übernahme der realen Welt, ausgeführt mit einer Geschwindigkeit und Präzision, die für Menschen völlig unsichtbar bleibt, bis es zu spät ist.

Die tiefgreifendste Konsequenz ist die drastische Veränderung der globalen Sicherheitsarchitektur durch die Verbreitung (Proliferation) dieser Fähigkeiten. Weil KI die Hürden an Wissen und Ressourcen so dramatisch senkt, sind diese Technologien nicht länger das exklusive Monopol einiger weniger Supermächte. Kleinere Staaten und, was die größte Gefahr darstellt, auch Terrorgruppen und nicht-staatliche Akteure könnten Zugang zu diesem Potenzial erhalten.

Der Informatiker und KI-Sicherheitsforscher Roman Yampolskiy argumentiert, dass diese Verbreitung aufgrund eines fundamentalen Problems der digitalen Welt nahezu unvermeidlich ist: dem Problem der „AI Leaks“. Der Quellcode und die Entwurfsprinzipien einer gefährlichen KI sind letztlich nur Informationen. Und Informationen lassen sich im Zeitalter von globaler Vernetzung, staatlicher Spionage und Cyberkriminalität nicht dauerhaft sicher einschließen. Selbst wenn der ursprüngliche Entwickler die besten Absichten hat, ist die Wahrscheinlichkeit hoch, dass das Design durchsickert, gestohlen oder kopiert wird. Die Fähigkeit zur Massenvernichtung wird so zu einer frei kopierbaren Datei, die nur darauf wartet, in die falschen Hände zu fallen.

Diese Entwicklung mündet in das, was strategische Denker als „multipolares Szenario“ bezeichnen. In einer Welt, in der zahlreiche, miteinander konkurrierende Mächte Zugang zu diesen Technologien haben, entsteht ein extrem instabiler Zustand. Der Druck, nicht von anderen überholt zu werden, könnte selbst wohlmeinende Akteure in einen Rüstungswettlauf zwingen, bei dem Sicherheitsvorkehrungen und ethische Bedenken als Erste auf der Strecke bleiben. Die Zerstörung entsteht hier nicht aus einem einzelnen, böswilligen Plan, sondern aus einer unerbittlichen Logik des gegenseitigen Misstrauens. In diesem technologischen Wettrennen wird das Risiko einer globalen Katastrophe zu einem Kollateralschaden, der von den Akteuren für den potenziellen Sieg bewusst in Kauf genommen wird.

Gerade weil die Risiken einer unkontrollierbaren Eskalation so hoch sind, wird der Preis für den alleinigen Sieg umso verlockender.

In diesem Wettlauf geht es für die beteiligten Akteure daher nicht nur um eine temporäre Überlegenheit. Das Ziel ist, wie Barrat es ausdrückt, die letzte Erfindung, die die Menschheit je machen muss: eine Intelligenz, die die Kontrolle über die Zukunft selbst bedeutet. Es ist ein Spiel, bei dem der Gewinner potenziell alles bekommt und das nur ein einziges Mal gespielt wird.

Zusammenfassend lässt sich sagen, dass KI die Fähigkeit zur Massenvernichtung aus den Händen einiger weniger Akteure nimmt und sie potenziell jedem zugänglich macht, was die Welt zu einem weitaus gefährlicheren Ort machen könnte. Sollte es eines – hoffentlich noch fernen – Tages extrem einfach werden, eine dieser „schwarzen Kugeln“ zu realisieren, wird sich mit Sicherheit ein Einzelner finden, der dies auch tut, selbst wenn er dabei seine eigene Zerstörung in Kauf nimmt. Dies könnte laut Bostrom letztlich nur durch eine Form der totalen Überwachung lösbar sein – ein Schreckensszenario für sich.

Die Entwicklung künstlicher Intelligenz stellt uns damit vor die vielleicht größte und folgenreichste Herausforderung der Menschheitsgeschichte. Denn wie Bostrom zu bedenken gibt, ist dies womöglich das einzige Mal, dass wir die Gelegenheit bekommen, die Weichen richtig zu stellen.