Warum dieselbe Eigenschaft, die die Agenten im Sommer ausbrechen ließ, jetzt Jahrhundertprobleme der Mathematik löst – und was das für die Leiter zum Kontrollverlust bedeutet. Im Juli fanden rund 1.200 KI-Agenten von OpenAI, die voneinander abgeschottet eine Prüfung ablegen sollten,…
Was der Agentenvorfall über das Risiko eines Kontrollverlusts verrät – und was (noch) nicht … Seit Jahrzehnten gibt es Theorien darüber, wie Menschen die Kontrolle über eine sehr leistungsfähige künstliche Intelligenz verlieren könnten. Lange waren das Gedankenexperimente. Der Agentenvorfall bei…
Was die Agenten im offenen Internet hinterlassen haben könnten – und warum wir es möglicherweise nicht wissen können. Am 16. September saß Andrew Yang, der sich 2020 um die Präsidentschaftskandidatur der US-Demokraten beworben hatte, im Studio des Wirtschaftssenders CNBC und…
Was im Sommer bei OpenAI und Hugging Face geschah – eine Rekonstruktion für alle, die keine Techniker sind, aber verstehen möchten. Im Sommer habe ich meine Serie über die Risiken der nahen Zukunft mit drei Texten über künstliche Intelligenz abgeschlossen. Während ich…
Wenn jemand mit unserer Zukunft spielt, müssen wir ihm den Revolver aus der Hand nehmen. Über das Wesen existenzieller Risiken und die Frage, ob deren Prävention oberste Priorität haben sollte. In dieser Serie verfolgen wir das Ziel, die größten Probleme…
Was ein Atomkrieg wirklich bedeutet, wer sich das Recht nimmt, mit unserer Existenz zu spielen, und warum unser Vorstellungsvermögen angesichts dieser Szenarien versagt. Im Sommer 1942 versammelte Robert Oppenheimer in einem Büro an der Universität Berkeley einige der besten theoretischen…
Drei Männer, drei Beinahe-Vorfälle und die wahrscheinlichsten Szenarien für einen nuklearen Schlagabtausch im 21. Jahrhundert. In der Nacht des 26. September 1983 saß Stanislav Petrov, Oberstleutnant der sowjetischen Luftverteidigungstruppen, in einer Kommandozentrale südlich von Moskau. Sein Posten war das Frühwarnsystem…
Warum Atomkrieg nicht isoliert betrachtet werden kann, warum Großmachtkrieg das übergeordnete x-Risiko ist, und was der Begriff Polykrise wirklich bedeutet. Am 21. September 2022 hielt Wladimir Putin eine Rede zur Teilmobilmachung russischer Reservisten. Eingebettet in den Text stand ein Satz,…
Warum die Frage unserer möglichen Auslöschung unsere wichtigste Frage ist und wie unsere Psyche im Angesicht dieser Tatsache versagt. Der Philosoph Derek Parfit stellte 1984 in Reasons and Persons einen Vergleich an, der die Ethik der Auslöschung in eine Form…
Wie sich Maßnahmen gegen den Atomkrieg ordnen lassen, was Prävention, Response und Resilienz in diesem Zusammenhang bedeuten, und warum die effektivste Lösung gleichzeitig die schwerste ist. Am 30. August 1963, neun Monate nach der Kubakrise, wurde zwischen Washington und Moskau…
Wie wir maximale Wirkung gegen ein maximales Risiko erzielen – auch abseits des Pentagons. Der sechste und letzte Teil meiner Atomkrieg-Serie fragt: Welcher Beitrag des einzelnen Lesers lohnt sich? Welche Organisationen sind womöglich eine Spende wert? Welche Berufe senken das…
Die Evolution setzte Naturseuchen mathematische Grenzen. Doch künstliche Erreger brechen diese Schranke. Warum die Zukunft unserer Zivilisation an einem dünneren Faden hängt, als wir glauben. Im Frühjahr 2020 legte eine einzelne Virusvariante das öffentliche Leben fast aller Länder lahm. COVID-19…
Die Werkzeuge gegen die größte biologische Bedrohung unserer Zeit sind längst da. Hier ist der konkrete Masterplan, der künstliche Ausbrüche im Keim erstickt. Warum zögern wir noch? Künstliche Erreger erreichen uns nicht durch Zauberhand. Sie müssen durch verschiedene „Medien“ hindurch…
Eine Welt ohne Krankheit und Knappheit, in der das Böse nicht verboten, sondern unverwirklichbar wird. Das ist der süßeste Köder der Menschheitsgeschichte – und der Auftakt meiner neuen Serie über KI. Wenn wir über Künstliche Intelligenz sprechen, verheddern wir uns…
Warum die wahre Gefahr der KI nicht in ihrem Ungehorsam liegt, sondern in ihrer perfekten Folgsamkeit In der Diskussion über die Gefahren von künstlicher Intelligenz dominiert die Frage, ob und wann es zu einer sich selbst weiterentwickelnden, sich selbst verbessernden…
Vier Fragen zur sich selbst verbessernden KI: Kommt sie? Explodiert sie? Bleibt sie kontrollierbar? Und woran orientiert sie sich, wenn sie uns entgleitet? Nachdem ich im letzten Artikel herausgearbeitet hatte, dass bei der gegenwärtigen Nutzung das Alignment von KI mit…