Die Fabel der Spatzen und die Dringlichkeit der Kontrolle
Das Buch beginnt mit einer verstörenden Fabel: Ein Schwarm Spatzen beschließt, ein Eulenjunges zu fangen, um das Nest zu schützen und Nahrung für die Gruppe zu beschaffen. Alle feiern die Idee, eine gewaltige Kraft in ihren Dienst zu stellen. Inmitten der Euphorie stellt nur ein misstrauischer Spatz die entscheidende Frage: Wäre es nicht besser, zuerst zu lernen, eine Eule zu zähmen, bevor wir ein Ungeheuer mit scharfen Krallen in unseren eigenen Baum holen? Seine Gefährten ignorierten die Warnung und machten sich eilig auf die Jagd, und die Kunst der Abrichtung sollte man später klären.
Nick Bostrom nutzt diese Metapher, um zu zeigen, wie die heutige Zivilisation mit künstlicher Intelligenz umgeht. Im Alltag betrachten wir Technik als harmloses Werkzeug, das Tabellen im Büro ausfüllen, automatische Nachrichten versenden oder einen Bankkredit genehmigen soll. Doch eine Intelligenz zu erschaffen, die den Menschen überlegen ist, bedeutet nicht, einen gehorsamen digitalen Angestellten einzustellen. Damit rückt die Sicherheit ins Zentrum eines ernsten existenziellen Risikos: Anders als gewöhnliche Wirtschaftskrisen bedeutet ein Fehlschlag beim ersten Kontrollversuch gegenüber einer Superintelligenz, dass es keine zweite Chance gibt, den Schaden zu beheben.
