Die nächste deutsche Behörde hat sich gegen den Einsatz der Software des antidemokratischen Trump-Flüsterers Peter Thiel entschieden: Der Verfassungsschutz wird die Software Palantir nicht für die eigene Behörde einsetzen. Stattdessen setzt der Inlandsgeheimdienst offenbar auf die französische Alternative ChapsVision.

Ähnliches hatte der Präsident des Bundesamts für Verfassungsschutz, Sinan Selen, bereits im Dezember durchklingen lassen, als er sich mit Blick auf das Thema europäische Souveränität für Alternativen starkmachte. Einer Recherche von WDR, NDR und Süddeutscher Zeitung zufolge habe das BfV nun eine Testphase erfolgreich abgeschlossen und die Software erworben.

Weder Bundesinnenministerium noch Verfassungsschutz bestätigten oder dementieren die Recherche: Der Geheimdienst beziehe grundsätzlich öffentlich nicht Stellung zu seinen Tätigkeiten. Inwiefern Bundesinnenminister Alexander Dobrindt (CSU) die Entscheidung des Verfassungsschutzes für sinnvoll hält, beantwortete die Behörde nicht.

Palantir ist eine KI-gestützte Analysesoftware, die nicht nur sehr teuer ist, sondern auch erhebliche Sicherheitsrisiken birgt. Sie kann verschiedene Datensätze KI-gestützt verbinden und durchsuchen. Das Programm soll dabei zu schnelleren Ergebnissen kommen als Menschen bei händischen Recherchen.

Kritisiert wird immer wieder, dass Palantir eine Blackbox ist und hierbei auch die Daten Unbeteiligter einbezogen werden, die bei der Polizei mal eine Zeugenaussage gemacht haben oder mit dem Auto geblitzt worden sind. Als Risiko gilt auch der Punkt, inwiefern Palantir nicht doch eine Hintertür besitzt – die Firma ist eng verwoben mit den amerikanischen Sicherheitsbehörden und dem US-Militär. Bei deren menschenrechtswidrigen ICE-Abschiebungen spielt sie zum Beispiel eine Rolle.

Palantir stirbt langsam

In Deutschland arbeiten bereits die Polizeien in vier Bundesländern mit Palantir: Hessen, Bayern, Nordrhein-Westfalen und Baden-Württemberg. Die Nutzung ist aber auch hier zunehmend umstritten. Wer sich mit verschiedenen Sicherheitsinsidern unterhält, bekommt nicht selten gespiegelt, dass Palantir in Deutschland tot sei.

Auch ist laut taz-Informationen mit Widerstand aus den Ländern zu rechnen, falls Bundesbehörden – etwa unter Führung von Bundesinnenminister Dobrindt – Palantir nutzen sollten. In diesem Fall könnten die vom Bundeskriminalamt lang herbeigesehnten gemeinsamen Schnittstellen mit Blick auf Landespolizeidaten wackeln.

Ein kürzlich von Dobrindt durchs Kabinett gebrachtes Gesetz zur Erweiterung der digitalen Ermittlungsbefugnisse ermöglicht grundsätzlich den Einsatz von KI-gestützter Analysesoftware. Dobrindt hatte Palantir dabei keine klare Absage erteilt, sprach zuletzt aber auch davon, dass eine hier entwickelte Software bevorzugt würde. Die Bundeswehr hat Überlegungen für eine etwaige Palantir-Nutzung dagegen bereits begraben. Schließlich wäre ein Palantir-Mitarbeiter für die Bedienung des Programms zuständig – für die Bundeswehr undenkbar.

Die Nachrichtendienste sollen angesichts der geopolitischen Großlage souveräner werden, neue Überwachungsmöglichkeiten inklusive. Bisher warnen dabei zwar vor allem ausländische Dienste auch vor inländischem Terror. Klar ist aber, dass auf mittlere Sicht auch der deutsche Verfassungsschutz zusätzliche Befugnisse bekommen könnte – darunter die Nutzung von Gesichtserkennungssoftware und KI.

Was kann ChapsVision?

Ähnliches soll das französische Programm leisten können: ChapsVision bietet eine entsprechende Datenanalyseplattform namens ArgonOS an, mit der ähnlich wie mit Palantir große Datenmengen schneller durchsucht werden können. Ebenfalls soll damit die Recherche in frei zugänglichen Internetquellen möglich sein (Osint).

Die Software gehört dem französischen Techunternehmer Olivier Dellenbach. In Frankreich ist sie schon in mehreren Behörden im Einsatz, darunter auch im Inlandsgeheimdienst. Laut dem Bericht von WDR, NDR und SZ arbeitet Dellenbachs Unternehmen in Deutschland mit der Firma rola Security Solutions zusammen. Sie soll demnach bei Terrorismusbekämpfung und Gefahrenabwehr helfen.

Da­ten­schüt­ze­r*in­nen und Geg­ne­r*in­nen der zunehmenden Überwachung dürften dennoch Kritik haben, weil die Ausweitung staatlicher Überwachungsbefugnisse generell im Konflikt mit Grundrechten steht und KI weiter fehleranfällig ist. So könnten unschuldige Personen verdächtigt werden – mit entsprechend schwerwiegenden Folgen. Noch einmal heikler scheint der Einsatz solcher Software bei intransparenten Behörden wie Geheimdiensten.

Der grüne Innenpolitiker Konstantin von Notz begrüßt vor diesem Hintergrund „ausdrücklich“, dass der Verfassungsschutz sich für eine europäische Alternative entschieden hat. Er mahnte aber an, dass auch für den Einsatz von ChapsVision die rechtlichen Bedingungen genau geprüft werden müssten.

„Der Einsatz automatisierter Datenanalysetools kann zweifellos einen großen Mehrwert für die Arbeit von Sicherheitsbehörden bieten“, sagt von Notz. Gleichzeitig seien damit aber tiefe Grundrechtseingriffe verbunden: „Das Für und Wider und die tatsächliche rechtliche Umsetzbarkeit müssen intensiv geprüft werden.“ Das habe das Bundesinnenministerium trotz einer monatelangen Diskussion aber bisher verpasst.

Verfassungsrechtliche Bedenken

Bei den Gesetzesentwürfen für neue digitale Ermittlungsbefugnisse habe von Notz weiter erhebliche verfassungsrechtliche Bedenken. „Umfassende Transparenzpflichten, unabhängige Kontrolle und glasklare Bestimmungen, welche Daten wann zu welchem Zweck verarbeitet werden dürfen, sind zwingende Voraussetzungen für den rechtskonformen Einsatz.“ Zudem müsse ausgeschlossen sein, dass behördliche Entscheidungen, die ein Mensch treffen muss, de facto durch die Software vorweggenommen werden.

Unter anderem von Notz drängt seit Monaten Bundesinnenminister Dobrindt dazu, dass Deutschland ernsthaft europäische Alternativen zur Datenanalyse prüfen müsse. Er erneuerte seine Forderung gegenüber der taz: „Wer staatlich souverän agieren will, darf Palantir nicht einsetzen. Eigentlich hält nur noch der deutsche Innenminister dem Unternehmen die Stange. Seine Beweggründe sind auch weiterhin weitgehend unerklärlich.“ Die Bundesregierung müsse endlich und ein für allemal Abstand von dem hochumstrittenen US-Unternehmen nehmen. Von Notz hat deswegen auch eine Berichtsbitte für den Innenausschuss zum Thema „Palantir in deutschen Sicherheitsbehördung“ an die Bundesregierung gerichtet. Am 20. Mai will er das Thema dort im Beisein von BKA und Verfassungsschutz besprechen.

Der SPD-Sicherheitspolitiker Sebastian Fiedler begrüßte die Abkehr von Palantir auch mit Blick auf andere Behörden wie die Bundespolizei: „Palantir darf auf Bundesebene auf keinen Fall eine Rolle spielen. Wir brauchen europäische Alternativen.“ Das gebiete auch das erratische Verhalten der Palantir-Verantwortlichen: Gründer Peter Thiel hat sich häufig antidemokratisch geäußert und vom derzeitigen CEO Alex Karp war zuletzt ein ideologisches bis dystopisches Manifest viral gegangen. In dem sah er westliche Zivilisationen als überlegen an und warb dringend für KI-Waffen – er dachte wohl, das sei gute Werbung für seine Produkte. Danach beschwerte er sich über Kritik.

Keine Entwarnung gibt es indes von der Linkspartei. Abgeordnete Clara Bünger kritisiert den Einsatz von Chaps Vision als „reinen Etikettenschwindel“: „Die Logik der algorithmischen Rasterfahndung und der Frontalangriff auf das verfassungsrechtliche Trennungsgebot bleiben identisch.“ Man müsse Überwachung vom Schutz der einzelnen Person her denken – denn man wisse nie, in wessen Hände diese Daten am Ende geraten, warnte Bünger: „Was heute unter dem Deckmantel der digitalen Souveränität aufgebaut wird, kann morgen von autoritären Kräften als mächtiges Repressionsinstrument missbraucht werden.“ Das Problem sei nicht allein die Herkunft der Software, sondern die Logik der Massenüberwachung.