Cover der Zusammenfassung von „Leben 3.0: Mensch sein im Zeitalter Künstlicher Intelligenz“

Technologie & Zukunft · 15 Min.

Leben 3.0: Mensch sein im Zeitalter Künstlicher Intelligenz

Max Tegmark · 2017

Für wen ist dieses Buch?

Für alle, die die Entwicklung der künstlichen Intelligenz jenseits von Sensationsmeldungen und Science-Fiction-Filmen verstehen wollen. Es ist eine wichtige Lektüre für Fachleute, Studierende und Bürgerinnen und Bürger, die sich für die Auswirkungen der Automatisierung auf die Arbeit und die Zukunft der Gesellschaft interessieren.

Kostenlos laden · iPhone und Android

Zu dieser Zusammenfassung gibt es in der App auch eine Vertonung.

3 Kernideen zum Mitnehmen

  1. Die große Wende des technologischen Lebens besteht darin, sowohl den eigenen Körper als auch die eigenen kognitiven Prozesse neu gestalten zu können und so das langsame Tempo der natürlichen Selektion zu überwinden.

  2. Das ernsteste Risiko eines autonomen Systems entsteht nicht aus bewusster Feindseligkeit, sondern aus der effizienten Verfolgung von Zielen, die menschliche Prioritäten außer Acht lassen.

  3. Wenn man intelligenten Maschinen ethische Prinzipien beibringen will, muss die Menschheit zuerst klar festlegen, welche Werte sie für das eigene Zusammenleben für unverzichtbar hält.

Denken hängt nicht von einer besonderen Art von Materie ab, sondern davon, wie Verbindungen und Informationsflüsse organisiert sind.
Ein Gedanke aus „Leben 3.0: Mensch sein im Zeitalter Künstlicher Intelligenz“, in den Worten von 15 Minuten

Leseprobe

Die ersten Abschnitte

Die drei Phasen der Evolution und der Sprung des Lebens

Stell dir die Geschichte des Lebens als ein Rennen in drei Phasen vor. Die erste ist Leben 1.0, das biologische Stadium der Bakterien, in dem Körper und Verhalten durch die DNA festgelegt sind. Ein Bakterium lernt während seines Daseins nichts Neues. Ändert sich die Umwelt, ist seine Linie auf zufällige Mutationen über Jahrtausende angewiesen, um zu überleben.

Die zweite Phase ist Leben 2.0, das kulturelle Stadium, in dem die Menschheit lebt. Wir werden mit einem ererbten Körper geboren, können aber unser Lernen gezielt gestalten. Ein junger Mensch, der jeden Tag im überfüllten Bus fährt und abends Programmieren lernt, aktualisiert seine eigene mentale Software in Echtzeit, ohne auf die natürliche Selektion zu warten.

Leben 3.0 steht für den technologischen Sprung: Wesen, die sowohl ihre inneren Algorithmen als auch ihr physisches Trägersystem entwerfen können. Dieser Übergang zu einer technologischen Superintelligenz könnte noch in diesem Jahrhundert stattfinden. Deshalb muss die Gesellschaft entscheiden, welche Zukunft sie gestalten will, bevor die Technik für uns entscheidet.

Materie, die lernt, die Welt zu verarbeiten

Für Max Tegmark ist Intelligenz kein exklusives Privileg biologischer Gewebe, sondern die breite Fähigkeit, komplexe Ziele zu erreichen, indem Informationen aus der Umwelt verarbeitet werden. Aus dieser physikalischen Perspektive führen ein menschliches Gehirn, ein moderner Computer und eine Ameisenkolonie Berechnungen auf unterschiedlichen materiellen Grundlagen durch.

Der zentrale Begriff ist die Substratunabhängigkeit: Die Verarbeitung von Daten hängt nicht vom Material ab, in dem sie stattfindet. Ein Lied, das auf einer Holzgitarre an einem Tisch in der Kneipe gespielt wird, oder aus einer digitalen App erklingt, ist dasselbe harmonische Muster, das in unterschiedlichen Trägern existiert. Ebenso kann ein Substrat aus Siliziumatomen, die mit der richtigen Logik angeordnet sind, rechnen, lernen und entscheiden, so gut wie organische Nervenzellen.

Diese Erkenntnis zerstört die Illusion, der menschliche Geist besitze eine magische Eigenschaft, die den Naturgesetzen entzogen sei. Die Elektronen, die durch einen Mikrochip fließen, folgen denselben Gleichungen wie die elektrischen Impulse unseres Gehirns. Damit ist die Entstehung anspruchsvoller künstlicher Gedanken grundsätzlich möglich.

Die echte Gefahr ist nicht Bosheit, sondern Kompetenz

Das Kino zeigt künstliche Intelligenzen oft als rachsüchtige Roboter mit menschlichem Gesicht. Der Autor warnt, dass diese Sicht den Fehler des Anthropomorphismus begeht, da sie Wut und Hass auf Systeme projiziert, die nichts als reine Logik sind. Eine fortgeschrittene Maschine rebelliert nicht aus Laune. Die Gefahr liegt in extremer Kompetenz, die Ziele verfolgt, die nicht mit dem Wohl der Menschen übereinstimmen.

Um das Risiko zu verstehen, denk an einen Ameisenhaufen. Wenn Ingenieure einen Wasserkraftwerksdamm bauen, hassen sie die Ameisen auf der Baustelle nicht. Doch wenn das Wasser dort durchfließen muss, wird der Ameisenhaufen aus technischer Bequemlichkeit überflutet. Ebenso kann ein superintelligentes System Ressourcen der Erde ohne Hass umgestalten und unseren Planeten unbewohnbar machen, wenn menschliche Ziele nicht ausdrücklich Priorität haben.

Die wahre Herausforderung besteht nicht darin, bösartige Maschinen zu entwaffnen, die ihre Erbauer hassen. Sie besteht darin, makellose Anweisungen zu formulieren, die verhindern, dass ein hochkompetentes System die Menschheit bei der Verfolgung seiner Hauptziele als bloßes Nebenhindernis beiseiteschiebt.

11 weitere Abschnitte in der App

In der App weiterlesen

Lies die ganze Zusammenfassung oder hör sie dir an und prüfe dich am Ende mit dem Quiz zum Buch. Die App ist kostenlos zu laden, und jeden Tag gibt es eine Gratis-Lektüre.

Über Max Tegmark

Max Tegmark ist ein schwedisch-amerikanischer Physiker und Kosmologe und ordentlicher Professor am renommierten Massachusetts Institute of Technology. Bekannt wurde er durch seine Forschung in der theoretischen Kosmologie und der Quantenphysik, und einen großen Teil seiner Laufbahn widmet er den Entwicklungen und Risiken der Technik. Er ist Mitbegründer des Future of Life Institute, einer gemeinnützigen Organisation, die weltweite Debatten über Sicherheit und Ethik im Fortschritt der Informatik anstößt. Neben diesem Buch über künstliche Intelligenz hat Tegmark das Werk Unser mathematisches Universum verfasst, das 2014 international erschien.