Künstliche Intelligenz : Was ist der Atlas der Automatisierung?

Der Atlas der Automatisierung von AlgorithmWatch liefert einen Überblick über teilhaberelevante ADM-Systeme, die in Deutschland im Einsatz sind. ADM steht für Automated Decision Making. Der Atlas ist eine Sammlung – in diesem Fall nicht von Landkarten und Grafiken, sondern von Themen, die relevant sind für die Beantwortung der Frage, inwiefern diese Systeme den Zugang zu öffentlichen Gütern und Leistungen sowie die Wahrnehmung eigener Rechte erschweren – vor allem für Menschen, die ohnehin bereits nicht besonders gut situiert sind oder als benachteiligt gelten können. Dabei verweist der Atlas immer wieder nicht nur auf Diskriminierungspotenziale, die durch die Automatisierung von Entscheidungen entstehen, sondern auch auf Chancen und Vorteile, die durch den Einsatz von automatisierten Entscheidungen ermöglicht werden oder denkbar sind. Der Report bietet zudem eine Übersicht über die Akteure, die den Diskurs über ADM maßgeblich prägen: Behörden, Forschungseinrichtungen, Interessenverbände und Nichtregierungsorganisationen. Darüber hinaus fasst er bereits bestehende Regulierungsansätze und Verbraucherschutzaspekte von teilhaberelevanten ADM-Systemen zusammen. Einzelne Kapitel widmen sich dem Einsatz von ADM-Systemen in konkreten gesellschaftlichen Feldern: Gesundheit und Medizin, Arbeit, Internet, Sicherheit, Bildung und mehr.

Lorema Jaume-Palasí ist Ethikerin für Automatisierung und Digitalisierung und Factory zitiert aus einem Interview des Magazins der Hannover Messe.

Jaume-Palasí: Mathematik und Statistik sind nicht neutral. Die Mathematik ist eine Sprache mit vielen Wegen und kulturellen Erwartungen und die Ergebnisse von Statistiken hängen von der Fragestellung, der Hypothese oder der Darstellung ab – beide Diszi- plinen sind sehr subjektiv. Und beide sind wesent- liche Bestandteile einer KI. Dazu kommen noch die Datenbasis, die auch subjektiv geprägt sein kann, und der Kontext, in dem die KI arbeitet.

Jaume-Palasí: Bei der Modellierung von Algorithmen entstehen Annahmen – bspw. von Effizienz. Aber dieser Effizienzbegriff muss nicht für jeden Anwender der gleiche sein. Von was für Effizienz sprechen wir – von Fairness oder von Zeit? Dazu kommen noch unterschiedliche Kulturen, die in der Modellie- rung berücksichtigt werden müssen. Algorithmen leiten darüber hinaus Entscheidungen aus der Vergangenheit ab und setzten damit voraus, dass sich der Mensch immer so verhalten wird. Das ist subjektiv. Widerstand oder auch Motivation bei- spielsweise werden nicht berücksichtigt.

Jaume-Palasí: Das ist schwer. Es braucht mehr als Zertifizie- rungen, die wir schon kennen. Wir müssen die Entscheidungen der Menschen analysieren, die Datenbanken immer wieder untersuchen und die Ergebnisse kritisch hinterfragen. Es geht nicht mehr nur darum, welches Ergebnis der einzelne Mitarbeiter hat, sondern wie dieses das Kollektiv verändert, die Arbeit und die Gesellschaft.

Jaume-Palasí: Interdisziplinäre Teams. Die soziale Dimension von KI und Algorithmen ist vielen noch gar nicht bewusst. Ich arbeite deshalb beispielsweise mit Soziologen, Programmierern oder Psychologen zusammen und wir entwickeln ein Ethical Pentes- ting – ein Standardverfahren, um Maschinen mit KI-Elementen zu auditieren.