1. L'autorité des chiffres
Une enseignante perd son emploi, un candidat n'obtient jamais d'entretien et une famille reçoit une offre de crédit désavantageuse. Ces décisions semblent différentes, mais elles peuvent partager une même origine : des systèmes qui transforment les personnes en scores. Cathy O'Neil se demande qui a choisi les critères et qui répond lorsque ces critères portent injustement préjudice à quelqu'un.
L'autrice qualifie d'armes de destruction mathématique certains systèmes qui combinent opacité, échelle et dommage. Ils dissimulent leur fonctionnement, touchent un grand nombre de personnes et produisent des conséquences négatives importantes. Il ne s'agit pas de condamner tout calcul ou tout ordinateur, mais d'examiner des décisions automatisées présentées comme des vérités techniques, au-dessus du débat public.
En France, imaginez un travailleur refusé par une plateforme sans comprendre la raison. Il a peut-être envoyé tous les documents et rempli toutes les exigences visibles. Pourtant, un classement interne lui ferme la porte. Le problème commence lorsque l'apparence de précision remplace l'obligation d'expliquer une décision qui concerne une personne.
