Une alarme écrite sans détour
Le livre d'Eliezer Yudkowsky et Nate Soares repose sur une thèse qui tient dans le titre : si quelqu'un construit une intelligence artificielle bien plus capable que les humains en utilisant les techniques et le niveau de compréhension d'aujourd'hui, la conséquence probable est l'extinction de l'humanité. Les auteurs ne parlent pas d'un risque lointain ou d'un problème à surveiller, mais d'un dénouement attendu.
C'est un argument à l'opposé de l'optimisme qui domine le débat technologique. Au lieu de discuter de réglementations de détail ou d'ajustements fins, ils demandent une interruption coordonnée, à l'échelle internationale, de la course vers des systèmes toujours plus puissants. L'urgence du ton est voulue : ils veulent être lus comme celui qui crie au feu dans un immeuble.
Il faut garder en tête, dès maintenant, qu'il s'agit de la position défendue par deux chercheurs, et non d'un consensus scientifique. De nombreux spécialistes contestent la probabilité et le calendrier. Le résumé qui suit explique clairement le raisonnement du livre, et la dernière partie présente les principales objections.
