Die Europäische Union rückt mit einem hochumstrittenen Vorstoß vor: Am 14. Oktober stimmt der EU-Rat über eine Verordnung ab, die Messenger-Dienste wie WhatsApp, Signal oder Telegram verpflichten soll, private Nachrichten bereits vor dem Versenden auf illegale Inhalte zu durchsuchen.

Offiziell geht es den Gesetzgebern dabei um Kinderschutz. Seit drei Jahren ringt die EU dabei um eine Neuregelung im Kampf gegen Kindesmissbrauchsmaterial im Netz. Der Entwurf der „Regulation to Prevent and Combat Child Sexual Abuse“ – umgangssprachlich Chatkontrolle genannt – zielt auf eine Technik ab, die als „Client-Side-Scanning“ bezeichnet wird. Einfach erklärt: Auf dem Smartphone des Nutzers selbst soll Software Inhalte wie Fotos, Videos oder Texte mit einer zentralen Datenbank abgleichen, noch bevor sie verschlüsselt und versendet werden. Erkennt der Algorithmus etwas Verdächtiges, schlägt er Alarm – und die Behörden werden informiert, ohne richterlichen Beschluss oder konkreten Verdacht.

„Als würde jeder Brief vor dem Zukleben fotografiert“

Befürworter, allen voran die dänische EU-Ratspräsidentschaft, betonen, die Ende-zu-Ende-Verschlüsselung bleibe unangetastet. Doch das ist, wie Experten einhellig monieren, eine Illusion: „Wenn jede Nachricht vor der Verschlüsselung gescannt wird, ist das, als würde jeder Brief vor dem Zukleben fotografiert“, heißt es etwa beim WDR.

Angeblich geht es um sexuellen Missbrauch von Kindern: Doch durch das Vorhaben könnte die Büchse der Pandora geöffnet werden.

Die Konsequenzen des jetzigen Beschlusses reichen dabei weit über den Kinderschutz hinaus. Was als Werkzeug gegen eine „außergewöhnliche Bedrohung“ verkauft wird, würde eine Infrastruktur für präventive Kontrolle schaffen. Heute gegen Kinderpornografie, morgen gegen politischen Dissens, Hassrede, vermeintlichen Rassismus oder Beleidigung von Politikern: Einmal geöffnet, ließe sich diese Tür nicht mehr schließen. Und in einer Zeit, in der KI-Agenten autonom durch Apps und Kalender scannen, würde das System noch vulnerabler: Solche Roboter könnten etwa Zugriff auf sensible Bereiche wie E-Mails oder Kreditkarten erhalten.

Die Technik erinnert an frühere Ansätze wie Apples CSAM-Scanning-Projekt von 2021, bei dem das Unternehmen plante, iPhones und iPads automatisch auf Bilder sexuellen Missbrauchs von Kindern (CSAM, für Child Sexual Abuse Material) zu durchsuchen – indem Geräte Hash-Werte (digitale Fingerabdrücke) von Fotos erstellten und diese mit einer zentralen Datenbank bekannter CSAM-Inhalte abglichen, noch bevor die Dateien in die iCloud hochgeladen wurden. Das System sollte präventiv wirken, ohne die Inhalte selbst zu entschlüsseln, doch es löste massive Kritik aus, weil es eine Form der flächendeckenden Überwachung ermöglichte, die leicht auf andere Inhalte erweitert werden könnte – von Aktivisten bis zu Regierungen. Apple pausierte den Plan bereits im September 2021 und stellte ihn 2022 endgültig ein, unter dem Druck von Datenschützern.

Vom Kinderschutz zum Kontrollparadies

Besonders scharf äußert sich Meredith Whittaker, Präsidentin der gemeinnützigen Signal-Stiftung und Verantwortliche für eine der sichersten Messenger-Apps weltweit. In einem Interview mit der Deutschen Presse-Agentur teilte Whittaker mit: „Wenn wir vor die Wahl gestellt würden, entweder die Integrität unserer Verschlüsselung zu untergraben oder Europa zu verlassen, würden wir den Markt verlassen.“ Signal, das Millionen Nutzer in repressiven Regimen schützt und verschlüsselte Privatkommunikation ermöglicht, würde die EU nicht zum Komplizen einer Hintertür machen. „Es ist bedauerlich, dass Politiker einer Art magischem Denken verfallen. Man kann keine Hintertür schaffen, auf die nur die Guten Zugriff haben.“

„Man kann keine Hintertür schaffen, auf die nur die Guten Zugriff haben“: Die Präsidentin der Signal-Stiftung Meredith Whittaker.

Whittaker warnt zudem vor den breiteren Risiken: „Diese KI-Agenten verlangen enorme Zugriffsmöglichkeiten und nahezu unbegrenzte Berechtigungen. Dabei erhalten sie Zugang zu wichtigen Anwendungen und Diensten – vom Kalender, über das E-Mail-Konto, die Signal-App oder die Kreditkarte.“ Im Extremfall plant Signal, mit Partnern Wege zu finden, um Regeln zu umgehen – wie Signal es schon in Russland oder im Iran tat. Aber letztlich: „Wir würden den Markt verlassen, bevor wir gefährliche Gesetze wie diese einhalten müssten.“

„Die Chatkontrolle gefährdet die Demokratie“

Auch Deutschlands oberste Datenschützerin Louisa Specht-Riemenschneider spricht von „flächendeckender Überwachung“. 300 IT-Experten brandmarken die Technik als „zutiefst fehlerhaft“. Über 600 Wissenschaftler aus 33 Ländern haben zudem in einem offenen Brief gewarnt, die Pläne seien nutzlos und gefährden die Demokratie. Der Chaos Computer Club (CCC) und andere NGOs appellieren an die Bundesregierung, beim Nein zu bleiben – und warnen vor einer „Grundrechtsgefährdung“. Bürgerrechtsgruppen wie die Electronic Frontier Foundation (EFF) und EDRi sehen in den Plänen einen „Big Brother im Wolfspelz“.

Auch die Bundesbeauftragte für Datenschutz, Louisa Specht-Riemenschneider, sieht das Vorhaben extrem kritisch.