Couverture du résumé de « Vie 3.0 : Être humain à l'ère de l'intelligence artificielle »

Technologie & avenir · 15 min

Vie 3.0 : Être humain à l'ère de l'intelligence artificielle

Max Tegmark · 2017

À qui s’adresse ce livre ?

Pour ceux qui veulent comprendre où mène l'intelligence artificielle, au-delà du sensationnalisme et des films de science-fiction. C'est une réflexion essentielle pour les professionnels, les étudiants et les citoyens qui s'intéressent à l'impact de l'automatisation sur le travail et sur l'avenir de la société.

Gratuit à télécharger · iPhone et Android

Ce résumé existe aussi en version audio dans l’appli.

3 idées clés à retenir

  1. La grande rupture de la vie technologique est la capacité de redessiner à la fois son propre corps et ses propres processus cognitifs, en dépassant le rythme lent de la sélection naturelle.

  2. Le risque le plus sérieux d'un système autonome ne vient pas d'une hostilité consciente, mais de la recherche efficace d'objectifs qui laissent de côté les priorités humaines.

  3. Enseigner des principes éthiques à des machines intelligentes exige que l'humanité parvienne à définir clairement les valeurs qu'elle juge essentielles à sa propre coexistence.

La pensée ne dépend pas d'un type exclusif de matière, mais de la manière dont les connexions et les flux d'information sont organisés.
Une idée tirée de « Vie 3.0 : Être humain à l'ère de l'intelligence artificielle », dans les mots de 15 Minutes

Aperçu

Les premières sections

Les trois phases de l'évolution et le grand bond de la vie

Pensez à l'histoire de la vie comme à une course en trois phases. La première est la Vie 1.0, le stade biologique des bactéries, où le corps et le comportement sont figés par l'ADN. Une bactérie n'apprend rien de nouveau au cours de son existence ; si l'environnement change, sa lignée ne survit qu'en comptant sur des mutations aléatoires pendant des millénaires.

La deuxième phase est la Vie 2.0, le stade culturel vécu par l'humanité. Nous naissons avec un corps hérité, mais nous pouvons redessiner notre apprentissage. Un jeune qui prend chaque jour un bus bondé et passe ses soirées à étudier la programmation met à jour son propre logiciel mental en temps réel, sans attendre la sélection naturelle.

La Vie 3.0 représente le grand bond technologique : des entités capables de concevoir à la fois leurs algorithmes internes et leur support physique. Cette transition vers une superintelligence technologique pourrait se produire encore dans ce siècle, et elle exige que la société décide de l'avenir qu'elle veut construire avant que la technologie ne décide à sa place.

La matière qui apprend à traiter le monde

Pour Max Tegmark, l'intelligence n'est pas le privilège exclusif des tissus biologiques, mais la capacité générale d'atteindre des objectifs complexes en traitant l'information de l'environnement. Dans cette perspective physique, un cerveau humain, un ordinateur moderne et une colonie de fourmis effectuent un calcul sur des bases matérielles différentes.

Le concept clé est l'indépendance du substrat : le traitement des données ne dépend pas du matériau dans lequel il a lieu. Une chanson jouée à la guitare en bois sur une table de bistrot ou diffusée sur une application numérique est le même motif harmonique, qui habite des supports distincts. De même, si l'on organise des atomes de silicium selon la logique adéquate, ce substrat peut calculer, apprendre et décider aussi bien que des neurones organiques.

Ce constat dissipe l'illusion selon laquelle l'esprit humain posséderait une propriété magique inaccessible aux lois de la nature. Les électrons qui parcourent une puce obéissent exactement aux mêmes équations que celles qui gouvernent les impulsions électriques de notre cerveau, ce qui rend possible la création d'une pensée artificielle sophistiquée.

Le vrai danger n'est pas la malveillance mais la compétence

Le cinéma représente souvent les intelligences artificielles comme des robots vengeurs à traits humains. L'auteur met en garde contre cette erreur d'anthropomorphisme, qui prête colère et haine à des systèmes qui ne sont que pure logique. Une machine avancée ne se rebellera pas par caprice ; le danger réside dans une compétence extrême poursuivant des objectifs désalignés du bien-être humain.

Pour comprendre le risque, pensez à une fourmilière. Lorsque des ingénieurs construisent un barrage hydroélectrique, ils ne détestent pas les fourmis du chantier, mais si l'eau doit passer par là, la fourmilière sera inondée pour des raisons de commodité technique. De même, un système superintelligent pourrait remodeler les ressources de la Terre sans haine, mais en rendant notre planète inhabitable si les objectifs humains ne sont pas une priorité explicite.

Le véritable défi n'est pas de désarmer des machines perverses qui haïssent leurs créateurs, mais de formuler des commandes irréprochables qui empêchent un système hyper compétent d'écarter l'humanité comme un simple obstacle accessoire dans la poursuite de ses objectifs premiers.

11 sections de plus dans l’appli

Continuez dans l’appli

Lisez le résumé en entier ou écoutez-le et testez-vous à la fin avec le quiz du livre. L’appli est gratuite à télécharger, et une lecture gratuite vous attend chaque jour.

À propos de Max Tegmark

Max Tegmark est physicien et cosmologiste, de nationalités suédoise et américaine, professeur titulaire au prestigieux Massachusetts Institute of Technology. Connu pour ses travaux en cosmologie théorique et en physique quantique, il consacre une part importante de sa carrière à l'étude des orientations et des risques de la technologie. Il est cofondateur du Future of Life Institute, une organisation à but non lucratif qui anime les débats mondiaux sur la sécurité et l'éthique du progrès informatique. Outre cet ouvrage sur l'intelligence artificielle, Tegmark est l'auteur de Notre univers mathématique, publié internationalement en 2014.