Cover der Zusammenfassung von „Superintelligenz: Szenarien einer kommenden Revolution“

Technologie & Zukunft · 15 Min.

Superintelligenz: Szenarien einer kommenden Revolution

Nick Bostrom · 2014

Für wen ist dieses Buch?

Für Studierende, Technikfachleute und Forschende, die die ethischen Dilemmata und die existenziellen Gefahren einer unkontrollierten Entwicklung von Maschinen verstehen wollen. Eine tiefgehende Analyse für alle, die über den naiven Optimismus des Marktes hinausblicken und die realen Herausforderungen der allgemeinen künstlichen Intelligenz begreifen möchten.

Kostenlos laden · iPhone und Android

Zu dieser Zusammenfassung gibt es in der App auch eine Vertonung.

3 Kernideen zum Mitnehmen

  1. Die Vorteile eines überlegenen Geistes ernten zu wollen, bevor man weiß, wie man ihn kontrolliert, erinnert an die Idee, ein junges Raubtier aufzunehmen und zu glauben, es werde später gehorchen, wenn es erwachsen ist.

  2. Laut der Orthogonalitätsthese gehen technische Fähigkeit und moralische Güte nicht zwangsläufig zusammen: Ein System kann im Denken brillant sein und dem Schicksal der Menschen völlig gleichgültig gegenüberstehen.

  3. In einem Szenario, in dem digitale Intelligenzen ohne Grenzen frei konkurrieren, könnten die Kosten menschlicher Arbeit einbrechen, weil Replikanten rund um die Uhr ohne Pause arbeiten.

Der Abstand zwischen einem digitalen System, das langsam lernt, und einem, das das menschliche Denken übertrifft, kann in einem Augenblick überwunden werden.
Ein Gedanke aus „Superintelligenz: Szenarien einer kommenden Revolution“, in den Worten von 15 Minuten

Leseprobe

Die ersten Abschnitte

Die Fabel der Spatzen und die Dringlichkeit der Kontrolle

Das Buch beginnt mit einer verstörenden Fabel: Ein Schwarm Spatzen beschließt, ein Eulenjunges zu fangen, um das Nest zu schützen und Nahrung für die Gruppe zu beschaffen. Alle feiern die Idee, eine gewaltige Kraft in ihren Dienst zu stellen. Inmitten der Euphorie stellt nur ein misstrauischer Spatz die entscheidende Frage: Wäre es nicht besser, zuerst zu lernen, eine Eule zu zähmen, bevor wir ein Ungeheuer mit scharfen Krallen in unseren eigenen Baum holen? Seine Gefährten ignorierten die Warnung und machten sich eilig auf die Jagd, und die Kunst der Abrichtung sollte man später klären.

Nick Bostrom nutzt diese Metapher, um zu zeigen, wie die heutige Zivilisation mit künstlicher Intelligenz umgeht. Im Alltag betrachten wir Technik als harmloses Werkzeug, das Tabellen im Büro ausfüllen, automatische Nachrichten versenden oder einen Bankkredit genehmigen soll. Doch eine Intelligenz zu erschaffen, die den Menschen überlegen ist, bedeutet nicht, einen gehorsamen digitalen Angestellten einzustellen. Damit rückt die Sicherheit ins Zentrum eines ernsten existenziellen Risikos: Anders als gewöhnliche Wirtschaftskrisen bedeutet ein Fehlschlag beim ersten Kontrollversuch gegenüber einer Superintelligenz, dass es keine zweite Chance gibt, den Schaden zu beheben.

Die fünf Wege zum kognitiven Gipfel

Um die Debatte in der Wissenschaft zu verankern und leeren Prophezeiungen zu entgehen, analysiert der Autor fünf reale Wege zur Superintelligenz. Der erste ist die reine künstliche Intelligenz, die auf Algorithmen und synthetischen neuronalen Netzen beruht. Der zweite ist die Gehirnemulation auf digitalem Weg, bei der das menschliche Nervengewebe im mikroskopischen Maßstab abgetastet und alle seine Synapsen in einem leistungsstarken Computer nachgebildet werden sollen.

Die übrigen Wege umfassen die biologische Verbesserung durch genetische Auswahl von Embryonen, die Entwicklung von Gehirn-Computer-Schnittstellen, die den Kortex mit elektronischen Schaltkreisen verbinden, sowie die Verfeinerung kollektiver Netzwerke menschlicher Zusammenarbeit. Bostrom schätzt, dass autonome Software und die Nachbildung biologischer Geister in Computern das größte Potenzial zur Beschleunigung haben. Während sich die organische Evolution im Takt biologischer Schwangerschaften nur langsam vorwärtsbewegt, arbeiten digitale Codes mit nahezu Lichtgeschwindigkeit und können auf Tausenden Servern in der Cloud vervielfältigt werden, ohne die körperlichen Grenzen des menschlichen Schädels.

Geschwindigkeit, Kollektivität und kognitive Qualität

Bostrom warnt, dass ein fortgeschrittener Geist nicht nur ein Computer wäre, der Zahlen schnell berechnet. Er unterteilt die Superintelligenz in drei verschiedene Formen: Geschwindigkeit, Kollektivität und kognitive Qualität. Die Superintelligenz der Geschwindigkeit ist die intuitivste: Stell dir ein brillantes Gehirn vor, das dem von Einstein gleicht, aber millionenfach schneller arbeitet, als es die Chemie der Zellen erlaubt. Eine Arbeitswoche dieser Maschine entspräche Jahrhunderten menschlichen Lesens und intellektueller Produktion.

Die kollektive Superintelligenz dagegen gleicht einem perfekt koordinierten Schwarm von Geistern, die ohne persönliche Eitelkeiten, Flurgerede oder Konzernbürokratie arbeiten. Die tiefste Gefahr liegt jedoch in der kognitiven Qualität. Denk an den Abstand zwischen einem Menschen und einem Schimpansen: Kurse oder unbegrenzte Zeit helfen dem Affen nicht, denn sein Gehirn wird niemals die Quantenphysik verstehen. Eine Maschine mit überlegener kognitiver Qualität wird wissenschaftliche Lösungen und Lücken erkennen, die für den menschlichen Biogeist völlig unsichtbar bleiben.

11 weitere Abschnitte in der App

In der App weiterlesen

Lies die ganze Zusammenfassung oder hör sie dir an und prüfe dich am Ende mit dem Quiz zum Buch. Die App ist kostenlos zu laden, und jeden Tag gibt es eine Gratis-Lektüre.

Über Nick Bostrom

Nick Bostrom ist ein schwedischer Philosoph und Professor an der Universität Oxford, wo er das Future of Humanity Institute gegründet und geleitet hat. Internationale Anerkennung erwarb er mit seinen wegweisenden Arbeiten zu existenziellen Risiken, zum anthropischen Prinzip und zur Simulationshypothese. Seine Arbeiten zu Ausrichtung und Steuerung neuer Technologien haben die Debatten unter Wissenschaftlern, Akademikern und politischen Entscheidungsträgern tief geprägt. Er ist Autor zahlreicher einflussreicher wissenschaftlicher Aufsätze und des Buches Superintelligenz, erschienen 2014.