Le problème que presque personne ne veut affronter
Stuart Russell est professeur d'informatique et a écrit l'un des manuels les plus utilisés au monde pour enseigner l'intelligence artificielle. C'est précisément pour cette raison que son livre pèse : ce n'est ni un journaliste effrayé ni un philosophe annonçant la fin du monde, c'est quelqu'un qui a passé sa vie à construire ces machines et qui a décidé de signaler que le principe de base du domaine comporte un défaut sérieux.
La question centrale est simple à formuler et difficile à résoudre. Que se passera-t-il le jour où nous créerons des machines plus capables que nous dans presque tous les domaines ? Russell ne s'inquiète pas des robots qui se réveillent en colère, comme au cinéma. Il s'inquiète de machines trop compétentes qui obéissent à un objectif mal défini, et de notre difficulté à appuyer sur le bouton d'arrêt une fois qu'elles sont lancées.
Le livre tente de faire deux choses à la fois : expliquer d'où vient ce risque et proposer une autre manière de concevoir la technologie, pour qu'elle reste de notre côté. C'est pourquoi le titre portugais parle d'une intelligence artificielle en notre faveur, et non contre nous.
