Couverture du résumé de « Superintelligence : Scénarios, stratégies, dangers »

Technologie & avenir · 15 min

Superintelligence : Scénarios, stratégies, dangers

Nick Bostrom · 2014

À qui s’adresse ce livre ?

Pour les étudiants, les professionnels de la technologie et les chercheurs qui veulent comprendre les dilemmes éthiques et les dangers existentiels d'un progrès incontrôlé des machines. Une analyse approfondie pour ceux qui souhaitent aller au-delà de l'optimisme naïf du marché et saisir les défis réels de l'intelligence artificielle générale.

Gratuit à télécharger · iPhone et Android

Ce résumé existe aussi en version audio dans l’appli.

3 idées clés à retenir

  1. Vouloir récolter les bénéfices d'un esprit supérieur avant de savoir comment le contrôler rappelle l'idée d'adopter un petit prédateur en pensant qu'il acceptera les ordres une fois adulte.

  2. Selon la thèse de l'orthogonalité, compétence technique et bonté morale ne vont pas forcément de pair : un système peut être brillant dans son raisonnement et totalement indifférent au destin de l'humanité.

  3. Dans un scénario où des esprits numériques rivalisent librement, sans limites, le coût du travail humain risque de s'effondrer face à des répliques qui fonctionnent sans jamais se reposer.

La distance entre un système numérique qui apprend lentement et un autre qui dépasse le raisonnement humain peut être franchie en un clin d'œil.
Une idée tirée de « Superintelligence : Scénarios, stratégies, dangers », dans les mots de 15 Minutes

Aperçu

Les premières sections

La fable des moineaux et l'urgence du contrôle

Le livre s'ouvre sur une fable déconcertante : une volée de moineaux décide de capturer un petit de chouette pour protéger le nid et rapporter de la nourriture au groupe. Tous célèbrent l'idée de disposer d'une force colossale à leur service. Au milieu de l'euphorie, un seul moineau méfiant pose la question cruciale : ne vaudrait-il pas mieux apprendre à domestiquer une chouette avant d'introduire dans notre propre arbre un monstre aux serres acérées ? Ses compagnons ignorent l'avertissement et s'envolent précipitamment pour la chasse, laissant l'art du dressage pour plus tard.

Nick Bostrom utilise cette métaphore pour illustrer la manière dont la civilisation contemporaine aborde l'intelligence artificielle. Au quotidien, nous traitons la technologie comme un outil inoffensif, destiné à remplir un tableur d'entreprise, à accélérer des messages automatiques ou à approuver un crédit bancaire. Pourtant, créer un esprit supérieur à l'humain ne revient pas à embaucher un employé numérique obéissant. Cette dynamique place la sécurité au cœur d'un grave risque existentiel : contrairement aux crises économiques ordinaires, se tromper dès la première tentative de contrôle d'une superintelligence signifie ne jamais avoir de seconde chance pour réparer les dégâts.

Les cinq routes qui mènent au sommet cognitif

Pour ancrer le débat dans la science et échapper aux prophéties creuses, l'auteur examine cinq chemins réels vers la superintelligence. Le premier est l'intelligence artificielle pure, fondée sur des algorithmes et des réseaux neuronaux synthétiques. Le deuxième est l'émulation cérébrale numérique, qui propose de scanner le tissu neuronal humain à une échelle microscopique et de reproduire chacune de ses synapses dans un ordinateur de très haute performance.

Les autres routes passent par l'amélioration biologique grâce à la sélection génétique des embryons, par la création d'interfaces cerveau-machine reliant le cortex à des circuits électroniques, et par le perfectionnement de réseaux collectifs de coopération humaine. Bostrom estime que les logiciels autonomes et la reproduction d'esprits biologiques dans des ordinateurs ont le plus fort potentiel d'accélération. Alors que l'évolution organique avance lentement au rythme des gestations biologiques, les codes numériques fonctionnent à la vitesse de la lumière et peuvent être dupliqués sur des milliers de serveurs dans le cloud, sans les limites physiques du crâne humain.

Vitesse, collectivité et qualité cognitive

Bostrom prévient qu'un esprit avancé ne serait pas seulement un ordinateur qui calcule vite. Il répartit la superintelligence en trois modalités distinctes : la vitesse, la collectivité et la qualité cognitive. La superintelligence de vitesse est la plus intuitive : imaginez un cerveau brillant, identique à celui d'Einstein, qui fonctionnerait un million de fois plus vite que ne le permet la chimie cellulaire. Une semaine de travail pour une telle machine équivaudrait à des siècles entiers de lecture et de production intellectuelle humaine.

La superintelligence collective, elle, fonctionne comme un essaim parfaitement coordonné d'esprits qui agissent sans vanité personnelle, sans cancans de couloir ni bureaucratie d'entreprise. Le danger le plus profond réside toutefois dans la qualité cognitive. Pensez à la distance entre un être humain et un chimpanzé : offrir des cours ou un temps infini au singe ne servira à rien, car sa structure cérébrale ne comprendra jamais la physique quantique. Une machine dotée d'une qualité cognitive supérieure verra des solutions et des failles scientifiques totalement invisibles pour l'esprit biologique humain.

11 sections de plus dans l’appli

Continuez dans l’appli

Lisez le résumé en entier ou écoutez-le et testez-vous à la fin avec le quiz du livre. L’appli est gratuite à télécharger, et une lecture gratuite vous attend chaque jour.

À propos de Nick Bostrom

Nick Bostrom est un philosophe suédois et professeur à l'université d'Oxford, où il a fondé et dirigé le Future of Humanity Institute. Il s'est imposé sur la scène internationale grâce à ses recherches pionnières sur les risques existentiels, le principe anthropique et l'hypothèse de la simulation. Ses travaux sur l'alignement et la gouvernance des nouvelles technologies ont profondément influencé les débats entre scientifiques, universitaires et décideurs publics. Il est l'auteur de dizaines d'articles académiques influents ainsi que du livre Superintelligence, paru en 2014.