C hinas Gesichtserkennung, Europas Vorratsdatenspeicherung, Berlins Kameras am Kottbusser Tor – wenn Staaten ihre Bür­ge­r:in­nen überwachen wollen, begründen sie das meist mit Sicherheit. So auch bei der geplanten Chatkontrolle der EU. Denn diese soll, wie Be­für­wor­te­r:in­nen sagen, die Schwächsten unserer Gesellschaft schützen: Kinder.

Am 14. Oktober will der EU-Rat über einen Plan abstimmen, demzufolge Anbieter bei Messengerdiensten wie Whatsapp, Signal und Co mitlesen und Infos gegebenenfalls an Ermittlungsbehörden weitergeben sollen. Beim sogenannten Client-Side-Scanning sollen Chatprogramme in Zukunft einen Baustein enthalten, der mithilfe von KI Nachrichten noch vor ihrer Verschlüsselung auf kriminelle Inhalte überprüft – etwa auf Darstellungen sexueller Gewalt gegen Minderjährige. Ein Verdacht wäre dafür nicht notwendig, das Programm würde pauschal alles scannen.

Aber dürfen Staaten so was? Geht es nach klassischen Vertragstheoretikern wie Thomas Hobbes, ist Sicherheit sogar der ureigene Zweck von Staaten überhaupt. Menschen schließen miteinander einen Vertrag und geben ein großes Maß an Freiheit an den Souverän, den Staat, ab, damit der für ihre Sicherheit sorgt.

Nützt die Kontrolle mehr, als sie schadet?

Auch der liberale Vordenker und Utilitarist John Stuart Mill schreibt in seinem Essay On Liberty, dass Freiheiten von Bür­ge­r:in­nen gegen ihren Willen eingeschränkt werden dürfen, wenn dadurch verhindert wird, dass andere zu Schaden kommen. Und sowieso: Wer nichts zu verbergen hat, hat auch nichts zu befürchten, oder?

Nicht ganz, denn ein Knackpunkt ist Verhältnismäßigkeit. Betrachtet man die Überwachungswünsche der EU aus einer utilitaristischen Perspektive – also mit dem Ziel, das größte Glück für die meisten Menschen zu erreichen –, stellt sich die Frage: Nützt Kontrolle mehr, als sie schadet?

Persönlichkeitsrechte sind nicht nur ein Nice-to-have. Wenn Menschen wissen, dass sie jederzeit überwacht werden könnten, überlegen sie sich zweimal, was sie ihren Freunden auf Signal schicken – sei es nur das Nacktbild an den Partner oder aber das Video von der Gaza-Demo, das Polizeigewalt dokumentiert. Von Diskussions- und Gedankenfreiheit kann dann keine Rede mehr sein.

Auch Mill würde sagen: Flächendeckende anlasslose Überwachung darf es nur geben, wenn sie absolut notwendig ist, also wenn gezeigt werden kann, dass mildere Maßnahmen, wie gezielte Ermittlungen bei konkretem Verdacht weniger wirkungsvoll wären, um weitere Missbrauchsfälle zu verhindern.

Panoptikum-ähnliche Zustände

Das ist aber nicht der Fall. Erkenntnisse darüber, ob das Lesen von Chats tatsächlich zu weniger Verbrechen führen würde, sind nicht bekannt. Die EU-Kommission legte einen angefragten Bericht zur Verhältnismäßigkeit schlicht nicht vor und konnte auch nicht ausräumen, dass es zu „inakzeptabel hohen Raten an Fehlalarmen und Fehldetektionen“ kommen wird, wie Wis­sen­schaft­le­r:in­nen anmahnten.



Vielmehr werden Bür­ge­r:in­nen hier unter Generalverdacht gestellt, um eine Hintertür für totale Überwachung zu öffnen: eine Large-Scale-Version des Foucaultschen Panoptikum, des nicht einsehbaren Gefängnisturms, der es den Herrschenden erlaubt, Gefangene rund um die Uhr zu überwachen, ohne dass die wissen, ob gerade jemand zuschaut oder nicht.

Richtig gruselig wird es da nicht erst, wenn man sich überlegt, was die schon jetzt in Europa regierenden und womöglich noch kommenden Fa­schis­t:in­nen mit einer solchen Hintertür anfangen könnten. George Orwell lässt grüßen.