Chatkontrolle zurückziehen

Offener Brief: Chatkontrolle zurückziehen

Sehr geehrte EU-Kommissar.innen,

wenn Sie die Funktionsweise des Internets grundlegend untergraben, machen Sie es für alle weniger sicher.

Wir schreiben Ihnen als 114 zivilgesellschaftliche Organisationen und Gewerkschaften, die in den Bereichen Menschenrechte, Medienfreiheit, Technologie und Demokratie im digitalen Zeitalter tätig sind. Gemeinsam fordern wir Sie auf, die „Verordnung zur Festlegung von Vorschriften zur Verhütung und Bekämpfung des sexuellen Missbrauchs von Kindern” (CSA-Verordnung) zurückzuziehen und eine mit den europäischen Grundrechten vereinbarte Alternative vorzulegen.

Es ist nicht möglich, privat und sicher zu kommunizieren und zugleich einen direkten Zugriff für Regierungen und Unternehmen einzurichten. Auch böswilligen Akteur.innen würden die Maßnahmen Tür und Tor öffnen. Eine sichere Internet-Infrastruktur, die freie Meinungsäußerung und Selbstbestimmung fördert, ist nicht möglich, wenn Internetnutzer.innen einer allgemeinen Überprüfung und Filterung unterzogen werden können und ihnen Anonymität verweigert wird.

Die vorgeschlagene CSA-Verordnung stuft Scanning- und Überwachungstechnologien – trotz gegenteiliger Expert.innenmeinungen – politisch als sicher ein. Sollte dieses Gesetz verabschiedet werden, wird das Internet in einen Raum verwandelt, der die Privatsphäre, die Sicherheit und die freie Meinungsäußerung aller Menschen gefährdet.[1] Dies gilt insbesondere für Kinder und Jugendliche, die mit dieser Verordnung eigentlich geschützt werden sollen.

Die vorgesehenen Vorschriften würden Anbieter.innen sozialer Medien für die von ihren Nutzer.innen geteilten privaten Nachrichten haftbar machen. Das würde Plattformen dazu zwingen, riskante und fehleranfällige Techniken anzuwenden, um jederzeit Kontrolle darüber zu haben, was wir alle tippen und teilen. In der Folgenabschätzung, die dem Verordnungsvorschlag beigefügt ist, werden Unternehmen angehalten, Client-Side-Scanning einzusetzen, um ihre Nutzer.innen zu überwachen, wohl wissend, dass die Diensteanbieter.innen das aus Sicherheitsgründen skeptisch sehen. Die Verordnung wäre ein noch nie dagewesener Angriff auf das Recht auf private Kommunikation und die Unschuldsvermutung.

Nicht nur Erwachsene sind auf Privatsphäre und Sicherheit angewiesen. Wie die Vereinten Nationen und UNICEF erklären, ist die Privatsphäre im Netz für die Entwicklung und Selbstverwirklichung junger Menschen von entscheidender Bedeutung. Sie sollten keiner Massenüberwachung ausgesetzt werden. Auch das britische Royal College of Psychiatrists weist darauf hin, dass es für Kinder schädlich ist, sie auszuspionieren und dass Maßnahmen, die auf Selbstbefähigung und Bildung basieren, sie im Netz wirkungsvoller schützen.

Die CSA-Verordnung wird in vielerlei Hinsicht schweren Schaden anrichten:

• Eine private Nachricht über die eigene Missbrauchserfahrung, die für einen vertrauenswürdigen Erwachsenen gedacht ist, könnte automatisch markiert, von den Mitarbeiter.innen eines Social-Media-Unternehmens geprüft und dann zur Untersuchung an die Strafverfolgungsbehörden weitergeleitet werden. Das geschähe gegen den Willen der Betroffenen und verletzt ihre Würde. Das könnte Opfer davon abhalten, sich Hilfe zu holen;
• Whistleblower.innen und Quellen, die anonym über Korruption in der Regierung berichten wollen, könnten sich nicht mehr auf Online-Kommunikationsdienste verlassen, da die Ende-zu-Ende-Verschlüsselung ausgehebelt wäre. Bemühungen, Machthaber.innen zur Rechenschaft zu ziehen, würden erheblich erschwert;
• Private intime Fotos jung aussehender Erwachsener, die diese rechtmäßig an ihre Partner.innen schicken, könnten von der KI fälschlich markiert werden, Mitarbeiter.innen sozialer Medien angezeigt werden und dann an Strafverfolgungsbehörden geleitet werden;
• Solche unvermeidlichen Falschmeldungen würden Strafverfolgungsbehörden überlasten, die bereits jetzt nicht über die Ressourcen verfügen, alle Fälle zu bearbeiten. Sie müssten ihre begrenzten Kapazitäten darauf verwenden, riesige Mengen rechtmäßiger Kommunikation zu sichten, anstatt gefundenes Missbrauchsmaterial zu löschen und Verdächtige und Täter.innen zu verfolgen;
• Bisher sichere Messengerdienste, zum Beispiel Signal, wären gezwungen, ihre Dienste technisch unsicher zu machen. Nutzer.innen hätten dann keine sichere Alternative mehr. Dies würde alle gefährden, die sich auf sichere Kommunikation verlassen: Anwältinnen, Journalisten, Menschenrechtsverteidigerinnen, NGO-Mitarbeiter – einschließlich derer, die Opfern helfen –, Regierungsmitglieder und viele andere. Wenn Dienste die Nachrichten weiterhin verschlüsseln wollen, würden sie mit einer Geldstrafe in Höhe von sechs Prozent ihres weltweiten Umsatzes belegt oder gezwungen, sich aus dem EU-Markt zurückzuziehen;
• Quellenschutz und die digitale Sicherheit von Journalist.innen werden gefährdet, weil damit Ende-zu-Ende-Verschlüsselung abgeschafft würde. Außerdem wird die Pressefreiheit durch den "Chilling Effect" der Maßnahmen eingeschränkt;
• Sobald diese Technologie eingeführt wäre, könnten Regierungen auf der ganzen Welt Unternehmen gesetzlich dazu verpflichten, nach Beweisen für politische Opposition zu suchen, nach Aktivist.innen, gewerkschaftlichen Zusammenschlüssen und auch nach Menschen, die abtreiben lassen, wo Abtreibung kriminalisiert ist – also nach allem, was eine Regierung womöglich unterdrücken möchte;
• Bereits entrechtete, verfolgte und marginalisierte Gruppen auf der ganzen Welt wären von diesen Bedrohungen besonders betroffen.

In den vergangenen Jahren ist die EU zum Vorreiter für das Menschenrecht auf Privatsphäre und Datenschutz geworden und hat damit einen weltweiten Standard gesetzt. Doch mit der vorgeschlagenen CSA-Verordnung macht die Europäische Kommission eine Kehrtwende in Richtung Autoritarismus, Kontrolle und Zerstörung der Freiheit im Netz. Dies wäre ein gefährlicher Präzedenzfall für weltweite Massenüberwachung.

Zum Schutz der freien Meinungsäußerung, der Privatsphäre und der Sicherheit im Internet fordern wir, die unterzeichnenden 99 Organisationen, Sie als Mitglieder der Kommission auf, die Verordnung zurückzuziehen.

Wir fordern stattdessen zielgerichtete, rechtmäßige und technisch machbare Alternativen, um das schwerwiegende Problem des Missbrauchs von Kindern zu bekämpfen. Maßnahmen müssen der Selbstverpflichtung der EU "Digitalen Dekade" zu einem „sicheren und geschützten” digitalen Umfeld für alle entsprechen – das schließt Kinder und Jugendliche ausdrücklich ein.

[1] Der ehemalige UN-Sonderberichterstatter für das Recht auf freie Meinungsäußerung, David Kaye, betont: „Verschlüsselung und Anonymität ermöglichen es Einzelnen, ihr Recht auf Meinungsfreiheit und freie Meinungsäußerung im digitalen Zeitalter auszuüben.“

Unterzeichnet (Stand am 15.08.2022: 114 zivilgesellschaftliche Organisationen, ursprünglich 73 Organisationen zur Veröffentlichung am 08.06.2022; eine aktuelle Übersicht aller unterzeichnenden Organisationen finden Sie auf der Website von EDRi),

1. Acces Now - International
2. Alternatif Bilisim (AiA-Alternative Informatik Gesellschaft) - International
3. Agora Association - Türkei
4. APADOR-CH - Rumänien
5. ApTI Romania - Rumänien
6. ArGE Tübingen - Deutschland
7. ARTICLE19 - International
8. Aspiration - Vereinigte Staaten
9. Associação Portuguesa para a Promoção da Segurança da Informação (AP2SI) - Europa
10. Association for Support of Marginalized Workers STAR-STAR Skopje - Republik Nordmazedonien
11. Attac Austria - Österreich
12. Aufstehn.at - Österreich
13. Arbeiterkammer Österreich - Österreich
14. Berlin Strippers Collective - Deutschland
15. Big Brother Watch - Vereinigtes Königreich
16. Bits of Freedom - Niederlande
17. Bündnis für humane Bildung - Deutschland
18. Center for Civil and Human Rights (Poradňa) - Slowakei
19. Center for Democracy & Technology - Europa
20. Chaos Computer Club - Deutschland
21. Centrum Cyfrowe - Europa
22. Bürger D / Državljan D - Slowenien
23. Civil Liberties Union for Europe - Europa
24. CloudPirat - Deutschland
25. Committee to Protect Journalists - EU/International
26. comun.al - Lateinamerika
27. COMMUNIA Association for the Public Domain - Europa
28. D64 - Zentrum für Digitalen Fortschritt - Deutschland
29. Dataskydd.net - Schweden
30. Defend Democracy - International
31. Defend Digital Me - Vereinigtes Königreich
32. Democracy in Europe Movement 2025 (DiEM25) - Europa
33. Deutsche Vereinigung für Datenschutz (DVD) - Deutschland
34. DFRI - Schweden
35. Digital Advisor - Die Niederländer
36. Digitalcourage - Deutschland
37. Digitale Gesellschaft - Deutschland
38. Digitale Gesellschaft / Digital Society - Schweiz
39. Digitale Rechte Irland - Irland
40. Europäische Digitale Rechte (EDRi) - Europa
41. European Sex Workers' Rights Alliance (ESWA) - Europa und Zentralasien
42. Electronic Frontier Finland - Finnland
43. Elektronisk Forpost Norge (EFN) - Norwegen
44. Electronic Frontier Foundation (EFF) - Vereinigte Staaten
45. Electronic Privacy Information Center (EPIC) - International
46. epicenter.works for digital rights - Österreich
47. Equipo Decenio Afrodescendiente - Spanien
48. Eticas Foundation - International
49. Europäisches Zentrum für Non-Profit-Recht (ECNL) - Europa
50. Europäische Journalistenvereinigung (EJF) - Europa
51. Fight for the Future - US/International
52. Fitug e.V. - Deutschland
53. Fundación Karisma - Kolumbien
54. The Foundation for Information Policy Research (FIPR) - Großbritannien/Europa
55. Global Forum for Media Development - International
56. GAT - Grupo de Ativistas em Tratamentos - Portugal
57. Gesellschaft für Bildung und Wissen e.V. - Deutschland
58. Hermes Center for Transparency and Digital Human Rights - Italien
59. Homo Digitalis - Griechenland
60. Human Rights House Zagreb - Kroatien
61. imaniti.org - Tschechische Republik
62. iNGO European Media Platform - Europa
63. International Press Institute (IPI) - International
64. Internet Governance Project - International
65. Internet Society - International
66. Interpeer gUG (gemeinnützig) - Europa
67. Irischer Rat für bürgerliche Freiheiten - Irland
68. ISOC Brazil – Brazilian Chapter of the Internet Society - Brasilien
69. Internet Society Catalan Chapter (ISOC-CAT) - Europa
70. ISOC UK England - Großbritannien
71. IT-Pol - Dänemark
72. Iuridicum Remedium, z.s - Tschechische Republik
73. La Quadrature du Net - Frankreich
74. Ligue des droits humains - Belgien
75. LOAD e.V. - Deutschland
76. Lobby4kids - Kinderlobby- Österreich
77. Medienkompetenz Team e.V. - Deutschland
78. Netherlands Helsinki Committee - Die Niederlande
79. Nordic Privacy Center - Nordische Länder
80. Norwegen Chapter der Internet Society - Norwegen
81. Norwegische Unix-Benutzergruppe - Norwegen
82. Österreichischer Rechtsanwaltskammertag - Österreich
83. Open Rights Group - Vereinigtes Königreich
84. quintessenz - Verein zur Wiederherstellung der Bürgerrechte im Informationszeitalter - Österreich
85. Panoptykon Foundation - Polen
86. Peace Institute - Slowenien
87. PIC Amsterdam - Niederlande
88. Plattform Bürgerrechte - Niederlande
89. Presseclub Concordia - Österreich
90. Privacy First - Niederlande
91. Datenschutz International - International
92. Ranking Digital Rights - International
93. Red Umbrella - Schweden
94. SaveTheInternet - Europa
95. SekswerkExpertise - Niederlande
96. Sex Workers Alliance Irland - Irland
97. Sex Workers' Empowerment Network - Griechenland
98. SMEX - MENA
99. Social Media Exchange - Naher Osten und Nordafrika (MENA)
100. SZEXE - Verband der ungarischen Sexarbeiterinnen - Ungarn
101. StatewatchEU - Europa
102. Stowarzyszenie Nasze Imaginarium - Polen
103. Teckids e.V. - Deutschland
104. S.T.O.P. – The Surveillance Technology Oversight Project - Vereinigte Staaten
105. Stichting Stop Online Shaming - die Niederlande
106. Voices4 Berlin - International
107. Vrijschrift.org - Die Niederlande
108. Whistleblower-Netzwerk - Deutschland
109. Whose Knowledge? - International
110. Wikimedia - International
111. Wikimedia Deutschland e.V. - Deutschland
112. Women’s Link Worldwide - Europa
113. WorkerInfoExchange - International
114. Xnet - Spanien