Offenen Brief zum AI Act überreicht
Das Europäische Parlament verhandelt gerade das Gesetz über künstliche Intelligenz (AI Act) und gemeinsam mit dem EDRi-Netzwerk und weiteren Organisationen engagieren wir uns für ein konsequentes Verbot biometrischer Massenüberwachung. Dabei hatten wir schon einige Erfolge, aber bei so einem Gesetzespaket kommt es auf alle Details an und da schwächelt der aktuelle Entwurf noch, weswegen wir den Abgeordneten einen offenen Brief geschrieben haben (siehe unten).
Update: Inzwischen sind über 3000 Änderungsanträge eingereicht worden und unsere Forderungen finden sich darin wieder. Besonders freut uns auch, dass u.a. die Europaabgeordnete Birgit Sippel nach der Überreichung (siehe unten) in Änderungsantrag 1244 unsere Forderung aufgegriffen hat die Schlupflöcher bei einem Verbot von biometrischen Überwachungssystem zu schließen. Die Differenzierung ob ein biometrisches Fernidentifikationssystem in Echtzeit oder im Nachhinein unsere Körper überwacht würde den Raum für den Missbrauch dieser Technologie aufmachen. Unser Campaigner Konstantin Macher kommentiert das so:
„Die Positionen der Reclaim Your Face-Bürger.inneninitiative werden im Parlament gehört und sind ein unausweichlicher Teil der Verhandlungen zum europäischen KI-Gesetz geworden. Wir gehen gestärkt in den Endspurt der Verhandlungen zum Gesetz und werden weiter dafür werben, dass unsere Grundrechte durch ein echtes Verbot biometrischer Massenüberwachung geschützt werden!“
Darin geht es ganz spezifisch um den Einsatz von biometrischen Fernidentifikationssystemen (remote biometric identification, RBI), also z.B. automatisierte Gesichtserkennung an öffentlichen Plätzen. Wir wollen, dass solche Anwendungen konsequent verboten werden, aber der bisherige Entwurf lässt Ausnahmen zu und beschränkt das Verbot außerdem auf Echtzeitanalyse, nicht aber auf die Analyse bereits aufgezeichneten Materials. Solche Ausnahmen würden dem Missbrauch von biometrischen Erkennungssystemen Tür und Tor öffnen. Darum fordern wir von den Abgeordneten, dass sie Änderungen am IMCO-LIBE-Bericht zum AI Act vorschlagen, um ein echtes Verbot biometrischer Massenüberwachung sicherzustellen und unsere Grundrechte zu wahren.
Unser Campaigner Konstantin ist sogar zum Europäischen Parlament in Brüssel gereist, um den offenen Brief persönlich zu überreichen. Damit wollen wir den Abgeordneten zeigen, wie wichtig uns das Thema ist und dass wir genau auf die Verhandlungen des Parlaments zum AI Act schauen. Wir haben uns besonders darüber gefreut, dass sich die Europaabgeordnete Birgit Sippel direkt zu den Forderungen nach einem stärkeren AI Act bekannt hat. Sie sagte:
Als innenpolitische Sprecherin setze ich mich für ein vollumfassendes Verbot biometrischer Gesichtserkennung ein. Der Einsatz von Instrumenten zur Massenüberwachung darf nicht zu Grauzonen beim Grundrechtsschutz führen. Ein generelles Verbot des Einsatzes von Gesichtserkennung in öffentlich zugänglichen Bereichen ist notwendig, um Freiheitsrechte zu bewahren und mögliche Diskriminierung zu vermeiden.
Den Brief veröffentlichen wir unten als deutsche Übersetzung. Das englischsprachige Original findet Ihr hier bei EDRi.
Unterstützen Sie die gute Sache: Freiheit, Grundrechte und Demokratie.
Viele Menschen engagieren sich bei uns in ihrer Freizeit, seien auch Sie dabei!
Bleiben Sie auf dem Laufenden über unsere Arbeit und unsere Themen.
Brief
Sehr geehrte Damen und Herren Abgeordnete des Europäischen Parlaments,
Wir schreiben Ihnen heute als Gruppe von 53 Organisationen, um Sie zu fragen: Werden Sie sich für unsere Rechte einsetzen, indem Sie biometrische Massenüberwachung im Gesetz über künstliche Intelligenz (AI Act / KI-Gesetz) verbieten?
In Europa und auf der ganzen Welt stellt der Einsatz von biometrischen Fernidentifikationssystemen (remote biometric identification, RBI), wie z. B. Gesichtserkennung, in der Öffentlichkeit eine der größten Bedrohungen für Grundrechte und Demokratie dar, die wir je erlebt haben.
Der Einsatz solcher Systeme zerstört die Möglichkeit, sich anonym in der Öffentlichkeit zu bewegen und untergräbt unsere Rechte auf Privatsphäre und Datenschutz, das Recht auf freie Meinungsäußerung, das Recht auf Versammlungs- und Vereinigungsfreiheit (was zur Kriminalisierung von Protesten führt und eine abschreckende Wirkung hat) sowie das Recht auf Gleichbehandlung und Nichtdiskriminierung.
Ohne ein vollständiges Verbot solcher Technologien zur Fernidentifikation in öffentlich zugänglichen Räumen werden alle Orte, an denen wir unsere Rechte wahrnehmen und mit anderen zusammenkommen, zu Orten der Massenüberwachung, an denen wir alle wie Verdächtige behandelt werden.
Diese Risiken sind nicht hypothetisch. Uigurische Muslime wurden von der chinesischen Regierung mittels Gesichtserkennung systematisch verfolgt. Pro-demokratische Demonstranten und politische Gegner wurden in Russland, Serbien und Hongkong unterdrückt oder ins Visier genommen, indem an öffentlich zugänglichen Orten Gesichtserkennung zur Fernidentifikation eingesetzt wurde. In einigen Fällen reichte schon die Angst vor dem Einsatz solcher Systeme aus, um Protest zu ersticken. Und viele Menschen auf der ganzen Welt wurden zu Unrecht verhaftet und traumatisiert.[1]
Als Reaktion auf die zunehmende Verbreitung dieser Verfahren und ihrer Gefahren setzen sich Menschen zur Wehr und fordern Verbote. Mehr als 24 US-Bundesstaaten haben Maßnahmen gegen Gesichtserkennung oder andere Formen der biometrischen Massenüberwachung ergriffen. In Südamerika wurde in zwei aktuellen Urteilen das Abschalten von Gesichtserkennungssystemen in São Paulo und Buenos Aires angeordnet.
Einige der weltweit größten Anbieter biometrischer Überwachungstechiken ‒ Microsoft, Amazon und IBM ‒ haben aufgrund der großen Risiken und Gefahren, die ihre Systeme bekanntlich mit sich bringen, sogar ein selbst auferlegtes Moratorium verhängt, und Facebook hat seine Datenbank mit Gesichtsbildern gelöscht.
Trotz des starken Schutzes biometrischer Daten im EU-Datenschutzrecht erschleichen sich Unternehmen und Behörden systematisch eine “Einwilligung” und führen vage Sicherheitsgründe an, um unverhältnismäßige Massenüberwachung durch den Einsatz von Gesichtserkennung und anderen biometrischen Verfahren zu begründen.
Während demokratische Länder auf der ganzen Welt Maßnahmen zum Schutz ihrer Gesellschaften ergreifen, steuert die EU in die entgegengesetzte Richtung.
Ein klares, unmissverständliches Verbot im AI Act ist notwendig, um dem gefährlichen Status quo Einhalt zu gebieten.[2] Im Jahr 2021 hat das Europäische Parlament in seinem Bericht über KI im Strafrecht eine entschiedene Haltung gegen biometrische Massenüberwachungspraktiken eingenommen. Es fordert “ein Verbot jeglicher Verarbeitung biometrischer Daten, einschließlich Gesichtsbildern, zu Strafverfolgungszwecken zu erwirken, wenn diese Verarbeitung zu einer Massenüberwachung in öffentlich zugänglichen Räumen führt.” (Artikel 31)
Der AI Act ist der naheliegende Weg, diese wichtige Entschließung des Europäischen Parlaments in verbindliches, wirksames Recht umzusetzen.
Auch auf der Ebene der EU-Mitgliedstaaten wurde der dringende Bedarf an weiteren Maßnahmen erkannt. Italien hat das europaweit erste Moratorium gegen Gesichtserkennung im öffentlichen Raum eingeführt. Die deutsche Regierungskoalition hat ein EU-weites Verbot biometrischer Massenüberwachung gefordert. Portugal hat ein Gesetz zurückgezogen, das einige biometrische Massenüberwachungspraktiken legalisiert hätte. Und das belgische Parlament erwägt ein Moratorium gegen biometrische Überwachung.
Werden Sie (die richtige) Geschichte schreiben?
Es gibt bereits zahlreiche Beweise dafür, dass die Einwohner*innen Europas systematisch biometrischen Massenüberwachungspraktiken ausgesetzt wurden. Von Fußballfans, Schulkindern, Pendlern, Einkaufenden bis hin zu Besucher.innen von LGBTQ+Bars und religiösen Einrichtungen – die Gefahren sind real und weit verbreitet. Mit der Kampagne Reclaim Your Face fordern über 70.000 EU-Bürger.innen Sie und Ihre Gesetzgeberkolleg.innen auf, uns besser vor diesen undemokratischen und gefährlichen biometrischen Überwachungssystemen zu schützen. Weltweit haben über 200 zivilgesellschaftliche Organisationen von Burundi bis Taiwan ein Schreiben unterzeichnet, in dem sie ein weltweites Verbot der biometrischen Überwachung fordern. Als erste Region, die künstliche Intelligenz umfassend reguliert, wird das Handeln – oder Nichthandeln – der EU erhebliche Auswirkungen auf biometrische Massenüberwachungspraktiken in allen Teilen der Welt haben.
Während Dutzende von US-Bundesstaaten aus schrecklichen Fehlern wie der gesichtserkennungsgestützten Unterdrückung von Black-Lives-Matter-Demonstrant.innen lernen, bewegen sich die Regierungen in Indien, China und Russland in die entgegengesetzte Richtung. Auf welcher Seite der Geschichte wird die EU stehen: auf der Seite der Legitimierung autoritärer technologischer Überwachung oder der Seite der Grundrechte?
Wie können wir dies im AI Act verwirklichen?
Der AI Act muss alle Anwendungen von biometrischen Fernidentifikationssystemen im öffentlichen Raum(remote biometric identification, RBI) verbieten. Dies bedeutet, dass Anwendungen wie das Entsperren eines Smartphones oder die Verwendung eines ePass-Gates nicht verboten wären. Zwar zielt Artikel 5 Absatz 1 Buchstabe d bereits darauf ab, einige Anwendungen von RBI zu verbieten, doch ist sein Anwendungsbereich so eng gefasst und enthält so viele Ausnahmen, dass er praktisch auch eine Rechtsgrundlage für Praktiken bieten würde, die bereits nach bestehenden Datenschutzvorschriften verboten sein sollten.
Wir fordern Sie daher auf, Änderungen zu Artikel 5 Absatz 1 Buchstabe d[3] vorzuschlagen, die Folgendes bewirken
- Ausweitung des Geltungsbereichs des Verbots auf alle privaten wie öffentlichen Akteure;
- sicherstellen, dass alle Anwendungen von RBI (ob in Echtzeit oder im Nachhinein) in öffentlich zugänglichen Räumen von dem Verbot erfasst werden und
- Streichung der Ausnahmen von dem Verbot, die laut unabhängiger Bewertung nicht den bestehenden EU-Grundrechtsstandards entsprechen.
Um einen umfassenden Schutz biometrischer Daten zu gewährleisten, fordern wir Sie außerdem auf, die Gelegenheit, die der AI Act bietet, zu nutzen, um auch diskriminierenden oder manipulativen Formen der biometrischen Kategorisierung Einhalt zu gebieten und die Risiken der Emotionserkennung angemessen zu adressieren.
Die EU hat sich zum Ziel gesetzt, ein „Ökosystem des Vertrauens und der Exzellenz“ für KI zu schaffen und bei vertrauenswürdiger KI weltweit führend zu sein. Um diese Ziele zu erreichen, müssen wir KI-Anwendungen stoppen, die Vertrauen zerstören, unsere Rechte verletzen und unsere öffentlichen Räume in Überwachungsalpträume verwandeln. Wir können KI fördern, die den Menschen wirklich dient, und gleichzeitig die gefährlichsten Anwendungen dieser mächtigen Technologie verhindern.
Deshalb muss die EU die Menschen in den Mittelpunkt stellen und Änderungen am IMCO-LIBE-Bericht zum AI Act vorschlagen, um ein echtes Verbot biometrischer Massenüberwachung sicherzustellen.
Unterzeichnet, Reclaim Your Face
EU-Abgeordnete gegen Chatkontrolle
Petition gegen die Chatkontrolle überreicht
Online-Diskussion
1 Unterzeichner.innen
Siehe https://edri.org/our-work/will-the-european-parliament-stand-up-for-our-rights-by-prohibiting-biometric-mass-surveillance-in-the-ai-act/ für eine Liste aller Unterstützer*innen.
2 Fußnoten
1 Zum Beispiel: https://www.aclu.org/news/privacy-technology/i-did-nothing-wrong-i-was-arrested-anyway; https://www.nytimes.com/2020/12/29/technology/facial-recognition-misidentify-jail.html; https://www.wired.com/story/wrongful-arrests-ai-derailed-3-mens-lives/; https://edri.org/our-work/dangerous-by-design-a-cautionary-tale-about-facial-recognition/; https://www.law.georgetown.edu/privacy-technology-center/publications/garbage-in-garbage-out-face-recognition-on-flawed-data/
2 Art 9(4) DSGVO sieht zusätzliche Schutzmaßnahmen für biometrische Daten vor: „Die Mitgliedstaaten können zusätzliche Bedingungen, einschließlich Beschränkungen, einführen oder aufrechterhalten, soweit die Verarbeitung von genetischen, biometrischen oder Gesundheitsdaten betroffen ist.“
3 Dies muss durch einen neuen Erwägungsgrund unterstützt werden, um Anwendungsfälle von „Fernidentifikationssystemen“ besser zu definieren. Solche Systeme bieten die Möglichkeit, mehrere Personen zu scannen und sie ohne ihr Wissen zu identifizieren. Warnhinweise heben eine solche Definition nicht auf.
