1. Die Autorität der Zahlen
Eine Lehrerin verliert ihre Stelle, ein Bewerber bekommt kein Vorstellungsgespräch, und eine Familie erhält ein schlechtes Kreditangebot. Die Entscheidungen wirken verschieden, können aber einen gemeinsamen Ursprung haben: Systeme, die Menschen in Punktwerte verwandeln. Cathy O'Neil fragt, wer die Kriterien ausgewählt hat und wer haftet, wenn diese Kriterien jemandem ungerecht schaden.
Die Autorin nennt bestimmte Systeme mathematische Massenvernichtungswaffen, die Undurchsichtigkeit, Skala und Schaden miteinander verbinden. Sie verbergen, wie sie funktionieren, betreffen viele Menschen und erzeugen bedeutende negative Folgen. Es geht nicht darum, jede Rechnung oder jeden Computer zu verurteilen, sondern automatisierte Entscheidungen zu untersuchen, die als technische Wahrheiten präsentiert werden und sich einer öffentlichen Debatte entziehen.
Stell dir in Deutschland einen Arbeitnehmer vor, den eine Plattform ablehnt, ohne dass er die Begründung versteht. Er hat vielleicht alle Unterlagen eingereicht und die sichtbaren Anforderungen erfüllt. Trotzdem schließt eine interne Einstufung die Tür. Das Problem beginnt, wenn der Anschein von Präzision die Pflicht ersetzt, eine Entscheidung über einen Menschen zu erklären.
