Kommissar Computer immer öfter im Einsatz – mit den Vorurteilen seiner Programmierer

[Buch] Kritik des Computers. Der Kapitalismus und die Digitalisierung des SozialenPredictive Analytics oder Vorhersageprogramme, die mit großen Datenmengen (Big Data) und Maschinenlernen arbeiten, werden für viele Zwecke eingesetzt oder entwickelt. So will man damit das Risiko von Erkrankungen oder die Wahrscheinlichkeit des Begehens von Straftaten in der Zukunft berechnen, um präventiv handeln zu können. Sagt das Programm, dass etwa in einem Stadtviertel zu einer bestimmten Zeit vermehrt Einbrüche oder Gewaltverbrechen zu erwarten sind, werden dort verstärkt Polizeikontrollen durchgeführt. Mit Prädiktiven Algorithmen kann auch die Kreditfähigkeit, die Jobeignung oder die beste Möglichkeit errechnet werden, wann und wo Werbung geschaltet oder Angebote gemacht werden sollen. Die Wissenschaftler des Dartmouth College haben mit COMPAS bzw. equivant eines der Programme untersucht, die Entscheidungen mit nachhaltigen Folgen beeinflussen. Das Programm kam 1998 auf den Markt, seit 2000 wurden eine Million Angeklagte beurteilt, mit welcher Wahrscheinlichkeit sie innerhalb von zwei Jahren wieder rückfällig werden können. Dafür werden 137 Eigenschaften der geprüften Person ausgewertet. Untersuchungen stellten bereits heraus, dass das Programm nicht zuverlässig ist und rassistische Vorurteile pflegt…“ – aus dem Artikel „Algorithmus zur Vorhersage der Rückfälligkeit von Straftätern: Blendwerk an Komplexität“ von Florian Rötzer am 19. Januar 2018 bei telepolis externer Link, worin es viele konkrete Argumente gegen den Kommissar Computer gibt.

Kurzlink: https://www.labournet.de/?p=126946
nach oben