Hochschwangere Frau unschuldig verdächtigt
Medienberichten zufolge ist in den USA erneut eine unschuldige Person aufgrund des Einsatzes von sogenannter „künstlicher Intelligenz“ festgenommen worden. Dieses Mal traf die fehleranfällige „KI“-Überwachung eine hochschwangere Frau aus Detroit, die durch ein von der Polizei verwendetes System zur Auswertung von Beweismitteln mit automatisierter Gesichtserkennung unschuldig verdächtigt wurde. Wir fordern schon lange ein konsequentes Verbot biometrischer Überwachung im öffentlichen Raum. Verhandlungen für das entsprechende „KI-Gesetz“ sind gerade auf der Zielgeraden.
„Der Einsatz von biometrischer Überwachung ist eine Gefahr für alle rechtschaffenen Bürger.innen. Hier hat eine „KI“ eine hochschwangere Frau einer Straftat verdächtigt, die sie offensichtlich nichts begangen hatte. So etwas könnte jede.n treffen.“ – Konstantin Macher von Digitalcourage e.V.
Die betroffene 32-jährige Porcha Woodruff schilderte gegenüber der New York Times ihren Fall:
„'Machen Sie Witze?', soll sie zu den Beamten gesagt haben. [S]ie habe auf ihren Bauch gezeigt, um zu verdeutlichen, wie schlecht sie für ein solches Verbrechen gerüstet sei: Sie war im achten Monat schwanger.
An einem Donnerstagmorgen im vergangenen Februar wurde Frau Woodruff vor ihrem Haus in Handschellen abgeführt, während sie ihre weinenden Kinder bei ihrem Verlobten zurückließ, und in das Detroit Detention Center gebracht. Dort wurde sie 11 Stunden lang festgehalten, zu einem Verbrechen befragt, von dem sie nach eigenen Angaben keine Kenntnis hatte, und ihr iPhone wurde beschlagnahmt, um es nach Beweisen zu durchsuchen.
'Ich hatte Wehen in der Arrestzelle. Mein Rücken bereitete mir starke Schmerzen. Ich hatte Krämpfe. Ich denke, ich hatte wahrscheinlich eine Panikattacke', sagte Frau Woodruff, eine zugelassene Kosmetikerin und Krankenpflegeschülerin. 'Es tat mir weh, auf diesen Betonbänken zu sitzen.'
Nachdem sie vor Gericht wegen Raubes und Autodiebstahls angeklagt worden war, wurde Frau Woodruff noch am selben Abend gegen eine persönliche Kaution von 100.000 Dollar freigelassen. In einem Interview sagte sie, sie sei direkt ins Krankenhaus gefahren, wo man bei ihr Dehydrierung diagnostizierte und ihr zwei Beutel intravenöser Flüssigkeit verabreichte. Einen Monat später stellte der Staatsanwalt von Wayne County das Verfahren gegen sie ein.“
– Quelle: New York Times, Übersetzung von Digitalcourage
Unterstützen Sie die gute Sache: Freiheit, Grundrechte und Demokratie.
Viele Menschen engagieren sich bei uns in ihrer Freizeit, seien auch Sie dabei!
Bleiben Sie auf dem Laufenden über unsere Arbeit und unsere Themen.
Insbesondere Menschen, deren Aussehen nicht einem weißen und männlichen Bild entspricht, werden regelmäßig falsch erkannt und zu Unrecht verdächtigt. So auch in diesem Fall. Sogenannte „künstliche Intelligenz“ ist vereinfacht gesagt ein statistisches Modell, welches basierend auf vielen Daten Wahrscheinlichkeitsvorhersagen macht. „KI“-Systeme werden häufig als rassistisch bezeichnet, weil die Trainingsdaten von „KI“ fast immer durch gesellschaftliche Ungleichheiten verzerrt sind und so diskriminierende Stereotype reproduzieren.
Aktuell laufen Verhandlungen für eine europaweite Regelung von „KI“ und biometrischer Überwachung. Digitalcourage engagiert sich seit Jahren, z.B. mit dem Bündnis Reclaim Your Face, für ein Gesetz zum Schutz der Bevölkerung vor automatisierter Gesichtserkennung. Das sogenannte „KI-Gesetz“ (AI Act) wird gerade im „Trilog“ verhandelt, also zwischen dem Europäischen Parlament und dem Rat der der Europäischen Union (die Regierungen der Länder der EU).
Die Ampelkoalition hat im Koalitionsvertrag versprochen, sich für ein Verbot biometrischer Massenüberwachung ohne Ausnahmen zu engagieren. Im Januar hatten wir aber nachgewiesen, dass sich die deutsche Bundesregierung bei den Verhandlungen für Ausnahmen stark macht und so den Koalitionsvertrag gebrochen hat. Die Ampel möchte genau diese Form der zeitlich nachgelagerten Gesichtserkennung erlauben, durch die in diesem Fall die hochschwangere Frau unschuldig festgenommen wurde.
„Jetzt sollte sich auch bei der Ampel endlich die Erkenntnis durchsetzen, dass der Einsatz von Gesichtserkennung im öffentlichen Raum eine Gefahr für Leib und Leben ist. Wir appellieren an die Bundesregierung, sich jetzt endlich – wie im Koalitionsvertrag versprochen – für den Schutz von Demokratie und Menschenrechten einzusetzen. Das bedeutet ein konsequentes Verbot von biometrischer Überwachung ohne Wenn und Aber!“ – Konstantin Macher von Digitalcourage e.V.
Ampel bricht Koalitionsvertrag
