Angriff der Algorithmen: Wie sie unser Leben bestimmen, uns manipulieren und warum wir uns wehren müssen

In ihrem wegweisenden Werk „Weapons of Math Destruction“ (dt. „Angriff der Algorithmen“) entfaltet die Mathematikerin Cathy O'Neil eine tiefgreifende Kritik an der zunehmenden Macht von Algorithmen in unserer modernen Gesellschaft. Ihre zentrale These ist so provokant wie fundiert: Die mathematischen Modelle, die heute über unsere Kreditwürdigkeit, unsere Jobchancen, unsere Versicherungsprämien und sogar über unsere juristische Behandlung entscheiden, sind keineswegs die objektiven Richter, als die sie oft dargestellt werden. Stattdessen fungieren sie häufig als „Weaponized Math“ – mathematische Vernichtungswaffen. Diese Modelle zeichnen sich durch drei gefährliche Merkmale aus: Sie sind undurchsichtig (Black Boxes), sie skalieren in einem massiven Ausmaß und sie richten erheblichen Schaden an, indem sie bestehende Ungleichheiten zementieren und verstärken. O'Neil argumentiert, dass wir uns in einer Ära befinden, in der Daten nicht mehr nur Werkzeuge zur Effizienzsteigerung sind, sondern zu Mechanismen der sozialen Sortierung geworden sind, die oft die Schwächsten der Gesellschaft bestrafen, während sie die Privilegierten bevorzugen.

Ein wesentlicher Pfeiler von O'Neils Argumentation ist die Demontage des Mythos der mathematischen Neutralität. Ein Modell ist letztlich nichts anderes als eine in Code gegossene Meinung. Wenn Programmierer entscheiden, welche Datenpunkte relevant sind, fließen deren bewusste oder unbewusste Vorurteile direkt in das System ein. Ein besonders zerstörerisches Element sind dabei die sogenannten „Rückkopplungsschleifen“. O'Neil illustriert dies am Beispiel von prädiktiver Polizeiarbeit: Wenn ein Algorithmus Polizisten verstärkt in arme Viertel schickt, weil dort historisch mehr Bagatellverbrechen registriert wurden, werden dort zwangsläufig mehr Festnahmen getätigt. Diese neuen Daten fließen zurück in das Modell und „bestätigen“ die ursprüngliche Annahme, was zu einer noch stärkeren Überwachung dieser Viertel führt, während Kriminalität in wohlhabenderen Gegenden unentdeckt bleibt. Solche Modelle schaffen ihre eigene Realität und entziehen sich durch ihre mathematische Komplexität oft jeglicher Rechenschaftspflicht. Sie verwenden zudem oft „Proxies“ (Stellvertretervariablen) – wie etwa die Postleitzahl als Ersatz für Rasse oder soziale Schicht –, was zu einer systematischen Diskriminierung führt, die zwar formal legal, aber moralisch und gesellschaftlich verheerend ist.

Warum diese Entwicklung von so immenser Bedeutung ist, zeigt sich in der Erosion der Chancengleichheit und des demokratischen Gefüges. O'Neil verdeutlicht, dass WMDs eine neue Form der digitalen Klassengesellschaft erschaffen. Während die Elite oft noch von Menschen beurteilt wird, werden die Massen von kostengünstigen, automatisierten Systemen abgefertigt, die keine Einspruchsmöglichkeiten lassen. Dies hat reale Auswirkungen: Ein falscher Score kann den Zugang zu Bildung, Arbeit oder Gesundheitsversorgung blockieren. In der Politik führen Mikrotargetin...