Ein Alarm, ohne Umschweife geschrieben
Das Buch von Eliezer Yudkowsky und Nate Soares hat eine These, die in den Titel passt: Wenn jemand eine künstliche Intelligenz baut, die den Menschen weit überlegen ist, und dafür die Techniken und den Wissensstand von heute nutzt, wird die wahrscheinliche Folge das Aussterben der Menschheit sein. Die Autoren sprechen nicht von einem entfernten Risiko oder einem Problem, das man beobachten sollte, sondern von einem erwarteten Ausgang.
Es ist ein Argument, das dem Optimismus, der die Technikdebatte prägt, direkt widerspricht. Anstatt über Detailregulierung oder feine Justierungen zu reden, fordern die Autoren einen koordinierten, internationalen Stopp des Wettlaufs um immer leistungsfähigere Systeme. Der dringliche Ton ist gewollt: Sie wollen gelesen werden wie jemand, der in einem brennenden Gebäude Feuer schreit.
Man sollte von Anfang an im Blick behalten, dass es sich um die Position von zwei Forschern handelt und nicht um wissenschaftlichen Konsens. Viele Fachleute bestreiten die Wahrscheinlichkeit und den Zeitrahmen. Die folgende Zusammenfassung erklärt die Argumentation des Buches klar, und der letzte Abschnitt stellt die wichtigsten Einwände vor.
