La fable des moineaux et l'urgence du contrôle
Le livre s'ouvre sur une fable déconcertante : une volée de moineaux décide de capturer un petit de chouette pour protéger le nid et rapporter de la nourriture au groupe. Tous célèbrent l'idée de disposer d'une force colossale à leur service. Au milieu de l'euphorie, un seul moineau méfiant pose la question cruciale : ne vaudrait-il pas mieux apprendre à domestiquer une chouette avant d'introduire dans notre propre arbre un monstre aux serres acérées ? Ses compagnons ignorent l'avertissement et s'envolent précipitamment pour la chasse, laissant l'art du dressage pour plus tard.
Nick Bostrom utilise cette métaphore pour illustrer la manière dont la civilisation contemporaine aborde l'intelligence artificielle. Au quotidien, nous traitons la technologie comme un outil inoffensif, destiné à remplir un tableur d'entreprise, à accélérer des messages automatiques ou à approuver un crédit bancaire. Pourtant, créer un esprit supérieur à l'humain ne revient pas à embaucher un employé numérique obéissant. Cette dynamique place la sécurité au cœur d'un grave risque existentiel : contrairement aux crises économiques ordinaires, se tromper dès la première tentative de contrôle d'une superintelligence signifie ne jamais avoir de seconde chance pour réparer les dégâts.
