Objektive KI oder diskriminierende Killer-Roboter?

Beispiele für Diskriminierung bei KI-Anwendungen

Was passiert, wenn solche nicht neutralen Trainingsdaten Anwendung in KI-Technologien finden? Probleme sind zum Beispiel bekannt bei Gesichts- und Stimmerkennungssoftware:

• So zeigen Studien, dass Gesichtserkennungssoftware People of Colour generell schlechter erkennt als weiße Menschen, Frauen schlechter als Männer und insbesondere Women of Colour überdurchschnittlich häufig falsch erkannt werden.

• „Stimmerkennung schafft es nicht, auf Frauenstimmen oder nicht-nordamerikanische Akzente zu reagieren; Personen, die in einer Küche stehen, werden auf Fotos als Frauen gekennzeichnet“ (Ray Acheson).

• Vorurteile von Gesichtserkennungssoftware wurden auch von der Informatikerin und Aktivistin Joy Buolamwini am MIT Media Lab untersucht und kürzlich in der Dokumentation „Coded Bias” verfilmt.

Ein weiteres Beispiele aus dem zivilen Bereich: In den USA bewertet eine Risikobewertungssoftware auf Basis von KI, mit welcher Wahrscheinlichkeit Kriminelle zu Wiederholungstäter:innen werden. Die Ergebnisse der Bewertung wurden von einer NGO mit den tatsächlichen Wiederholungstaten verglichen. People of Colour wurden von der Software im Vergleich fast doppelt so häufig wie weiße Straftäter:innen als höheres Risiko eingestuft, auch wenn sie tatsächlich nicht wieder straffällig wurden. Das ist eine neue, automatisierte Form von rassistischer Profilbildung (Racial Profiling).

Was bedeutet das für KI in autonomen Waffensystemen?

Wir können davon ausgehen, dass ähnliche Diskriminierungsstrukturen auch in der Software autonomer Waffensysteme enthalten sein werden. Sogenannte „letale autonome Waffensysteme” können ihre Ziele ohne menschliches Zutun auf Basis von Algorithmen und Datenanalyse selbst auswählen und ohne Bestätigung durch einen Menschen beschießen.

Im Fokus der Debatte um solche Waffensysteme steht der Einsatz bewaffneter Drohnen. Seit einigen Jahren trainiert etwa die US Air Force mehr Drohnenpilot:innen als Kampf- und Bomberpilot:innen.

Es ist zu befürchten, dass der Einsatz von KI in autonomen Waffensystemen Diskriminierungsstrukturen nicht nur erhalten, sondern weiter verstärken wird, mit potenziell tödlichen Konsequenzen für bestimmte Gruppen. Marieke Eilers von der Internationalen Frauenliga Für Frieden und Freiheit geht davon aus, dass „Menschen in Zukunft – mehr als ohnehin schon – aufgrund von Geschlecht, Hautfarbe oder anderen diskriminierenden Kriterien sterben müssen“.

Wie entscheidet aber nun eine KI-Drohne, auf wen sie schießt? Gemäß der Genfer Konvention dürfen nur kämpfende Personen, die eindeutig als solche identifiziert wurden, angegriffen werden.

Bei einer bestimmten Form von bewaffneten Drohneneinsätzen, den sogenannten „signature strikes” werden Menschen „auf der Grundlage beobachteter Merkmale angegriffen, ohne dass wesentliche Informationen über die tatsächliche Identität oder Zugehörigkeit vorliegen“, erklärt Ray Acheson, Aktivistin und Direktorin der Organisation Reaching Critical Will.

Als ein Schlüsselmerkmal zur Unterscheidung zwischen unschuldigen Zivilist:innen und anzugreifenden Kämpfer:innen (sogenannten „killable bodies”, zu tötende Körper) wird dabei das von der KI angenommene Geschlecht verwendet. Verschiedene Studien über den Einsatz (semi-autonomer) bewaffneter Drohnen kommen zu dem Schluss, dass Personen, die als Männer im Militäralter eingeordnet werden, in Kriegsgebieten fast immer als Kämpfer eingestuft werden.

Du bist jung, männlich, religiös und befindest dich in einem Kriegsgebiet? Dann wirst du sehr wahrscheinlich als Kämpfer eingestuft, der nach Genfer Konvention angegriffen werden darf.
Berichte über bewaffnete Drohnenangriffe zeigen, dass neben Gender auch Alter und religiöse Handlungen, wie das Beten in Gruppen, als Indikatoren dafür dienen, ob Personen in Kriegsgebieten angegriffen werden.

Da die Mehrzahl aller bewaffneten Drohnenangriffe der USA auf signature strikes zurückzuführen ist, kann davon ausgegangen werden, dass auch KI-Waffen größtenteils auf Grundlage solcher Merkmalskonstruktionen und Zielprofile agieren würden. Der Unterschied: Eine KI würde die Entscheidung nicht hinterfragen. Damit würden diese Konstruktionen nicht nur in das System einprogrammiert, sondern wären auch kaum mehr als solche nachzuvollziehen.

All diese Beispiele zeigen, dass Algorithmen alles andere als neutral und objektiv sind. Im Gegenteil: KI sorgt dafür, das bestehende Stereotype und Machtverhältnisse weiter aufrecht erhalten werden und KI-Waffen bedrohen bestimmte gesellschaftliche Gruppen. Deshalb muss der Einsatz von vollautonomen Waffensystemen dringend verboten oder mindestens geächtet werden.