Berlin, 07.07.2022
Wir, die spendenfinanzierte Stiftung Bildung, setzen uns im Rahmen unserer Arbeit für beste Bildung und auch explizit für Kinderrechte ein. Gemeinsam mit Netzwerkpartner*innen machen wir uns dafür stark, Kinder und Jugendliche bestmöglich zu schützen – in Bildungseinrichtungen und weit darüber hinaus. Dies hat uns auch dazu bewogen, den offenen Brief zur „Verordnung zur Festlegung von Vorschriften zur Verhütung und Bekämpfung des sexuellen Missbrauchs von Kindern” (kurz CSA-Verordnung) zu unterzeichnen. Wir haben unsere Unterschrift am 24.06.2022 zurückgezogen. Wir sind zu der Überzeugung gekommen, dass das geplante Gesetz nicht den Nutzen bringen wird, von dem wir anfangs ausgegangen sind.
Im Folgenden führen wir die Gründe transparent und für alle nachvollziehbar auf, die uns zu dieser Entscheidung bewogen haben.
Das geplante Gesetz (CSA-Verprdnung) stellt alle Nutzer*innen unter allgemeinen Verdacht: Die private Kommunikation soll anlasslos überprüft und gefiltert werden. Wird dies tatsächlich umgesetzt, ist eine freie Meinungsäußerung und Selbstbestimmung nicht mehr möglich. Auch nicht für Kinder und Jugendliche, für die es im Entwurf keine Ausnahme gibt.
Die Einführung automatisierter Echtzeitüberwachung würde Missbrauchsopfern die Schutzräume zum Austausch und zur vertraulichen Kommunikation z.B. mit Anwält*innen und Therapeut*innen nehmen (siehe dazu auch Punkt „Richtige Technik“).
Es gibt bereits mehr Material von sexueller Ausbeutung und Kindesmissbrauch, als gesichtet werden kann. Das Gesetz (CSA-Verordnung) würde zu einer Sammlung von noch mehr Material führen, insbesondere von falschen Meldungen. Die Strafverfolgung wird durch die geplanten Maßnahmen nicht verbessert. Statt mehr Material braucht es Investitionen in mehr Personal, um das vorhandene Material zu sichten, zu löschen und um es strafrechtlich zu verfolgen (siehe dazu Punkt „Richtige Technik“ und „Wirkungsevaluation“). Weder BKA noch Europol melden bekanntes Missbrauchsmaterial den Speicherdiensten, um es löschen zu lassen. Es bleibt online und wird weiterverbreitet. Dazu der tagesschau-Bericht „Ermittler lassen Bilder nicht löschen“.
Die Künstliche Intelligenz (KI) hat keine ausreichend guten Erkennungsraten für diesen Einsatzzweck. Es ist aktuell nicht klar, wer die Erkennungsalgorithmen und -datenbanken definieren und kontrollieren soll. Zudem wäre die Sicherheit von Chats ohne die jetzt existierende Ende-zu-Ende-Verschlüsselung, bzw. mit Client-Side-Scanning, herabgesetzt. Dies öffnet Kriminellen neue Möglichkeiten und wäre das Ende des digitalen Briefgeheimnisses. Die Chatkontrolle ist mit dem Fernmeldegeheimnis und dem Recht auf Gewährleistung der Vertraulichkeit und Integrität informationstechnischer Systeme nicht vereinbar. Mehr Hintergrundinformationen dazu hier.
Regierungen auf der ganzen Welt können mit dieser Technologie im weiteren Verlauf Unternehmen dazu verpflichten, nach Verstößen oder Inhalten jedweder Art suchen zu lassen, zum Beispiel auch politische Oppositionstätigkeiten. Ein technisches Statement dazu hat der Chaos Computer Club veröffentlicht.
Die technischen Bedenken sind hier noch einmal gut zusammengefasst: Deutsch | Englisch
Stattdessen schließen wir uns den Stimmen an, die fordern, bereits vorliegendes Material effizienter und konkreter zu verfolgen und zu löschen. Auch eine verbesserte Möglichkeit, CSA-Material zu melden, würde helfen. Dazu folgender Lesetipp.
Viele Fotos stammen aus sozialen Medien – hier ist vor allem Aufklärung gefragt. Dazu auch der netzpolitik-Artikel „Das sind Inhalte, die liegen außerhalb meiner Vorstellungskraft“.
Kriminelle organisieren sich vor allem über selbst betriebene Foren und teilen Bilder und Videos meist als verschlüsselte Archive und Links. Chatkontrolle-Algorithmen erkennen diese nicht. Der geplante Gesetzesentwurf (CSA-Verordnung) wird die Verbreitung der Bilder und Videos im großen Stil nicht verhindern, da er leider nur kommerzielle E-Mail-, Messenger- oder Chatdienste ins Visier nimmt.
Weiterführende Informationen
Tagesschau-Beitrag: Der rasante Aufstieg von „Boystown“
BKA-Meldung zu Darknetplattform „BOYSTOWN“
Die bisherige Ausnahme der E-Privacy-Verordnung erlaubt seit einiger Zeit die Chatkontrolle. Es gibt bisher jedoch keine Zahlen und Informationen zum Erfolg der Methode, die einen Zwang zur Chatkontrolle als erfolgversprechende Maßnahme begründen könnten.
Die verschärfte Chatkontrolle würde tausende Bilder zu Unrecht ausleiten, da viele der maschinell erkannten Inhalte nicht strafbar sind. Selbst aufgenommene Nacktaufnahmen (auch von Minderjährigen) gelangen vollautomatisiert für eine manuelle Prüfung zu Unternehmensmitarbeiter*innen und zur Polizei. Der Umgang mit diesem Material ist dort nicht unbedingt gesichert. Mitarbeitende von US-Behörden haben bereits Nacktbilder von Nutzer*innen in Umlauf gebracht.
Die Verordnung würde demnach weitere Missbrauchsmöglichkeiten schaffen, die heute noch gar nicht vorhanden sind. Dies steht in großem Wiederspruch zum Ziel der Verordnung, sexuellen Missbrauch von Kindern sowie das Verbreiten von Material zu sexuellem Missbrauch zu verhindern und zu bekämpfen.
Sexueller Missbrauch von Kindern ist ein schweres Verbrechen. Die Bekämpfung der Online-Verbreitung von Material zu sexuellem Missbrauch und sexueller Ausbeutung von Kindern (CSAM) ist ein wichtiger Teil zum Schutz junger Menschen. Massenüberwachung, wie von der CSA-Verordnung geplant, ist jedoch nach unserem jetzigen Kenntnisstand nicht der zurzeit angemessene Weg, um solche Darstellungen zu verhindern. Es gilt den Diskurs weiterzuführen und an einer besseren Lösung zu arbeiten.
