Ende Mai lud der Vertreter Gottes auf Erden zur Vorstellung seiner ersten Enzyklika in den Vatikan. Der Anlass: die Gefahren der künstlichen Intelligenz. Auf der Veranstaltung warnte Papst Leo, dass die Entwicklung mächtiger KI-Werkzeuge in eine neue Art der Sklaverei münden könnte. Die KI, sagte Leo, müsse „entwaffnet“ werden.
Bei seiner Präsentation war der Papst nicht allein. Neben ihm auf der Bühne stand Christopher Olah, einer der Mitgründer des KI-Unternehmens Anthropic. Dass der Vatikan gute Beziehungen zu Anthropic kultiviert, mag einleuchten, präsentiert sich dessen Führung seit seiner Gründung doch als das „ethische“ KI-Unternehmen. Und Olah selbst kultiviert einen quasi-philosophischen Anspruch: Er wolle die Algorithmen neuronaler Netzwerke für Menschen verständlich machen.
So rückt allein der Name von Anthropic den Menschen, auf Griechisch „Anthropos“, in den Mittelpunkt. Leos Enzyklika zelebriert derweil unter dem lateinischen Titel „Magnifica Humanitas“ die Menschheit. Rom und Athen, die Kirche und die (Tech-)Philosophie, reichen sich hier im Vatikan die Hand. Doch an der Selbstvermarktung von Anthropic als moralischer Leuchtturm in der rauen Welt des Silicon Valley gibt es berechtigte Zweifel.
Das Unternehmen wurde 2021 von früheren OpenAI-Mitarbeitern gegründet. Mittlerweile liegt es in der Bewertung der privaten Investoren sogar vor OpenAI – und Anthropic bereitet aktuell seinen Börsengang vor. Vor fünf Jahren waren die Gründer getrieben von der Überzeugung, dass die Sicherheit der Menschen im Mittelpunkt der KI-Entwicklung stehen sollte. Über eine ihm eingeschriebene „Verfassung“ soll Anthropics Chatbot „Claude“ ethischen Standards folgen und kontrollierbar bleiben.
Fragwürdige Kooperationen mit der US-Regierung
Schaut man sich jedoch die jüngere Geschichte des Unternehmens an, bekommt dieses Image Risse. Vor einigen Wochen wurde die Anthropic-Führung in den Schlagzeilen gefeiert, weil sie die Regierung verpflichten wollte, ihre Technik nicht für voll autonome Waffensysteme und für die Überwachung von US-Bürgern zu nutzen. Die Regierung reagierte empört, und stufte Anthropic als „Risiko für die Lieferkette“ der USA ein, wogegen das Unternehmen nun klagt.
Zu kurz kommt dabei der Umstand, dass Anthropic bereits auf fragwürdige Weise mit der US-Regierung kooperiert. 2025 schloss der Konzern einen 200-Millionen-Dollar-Deal mit Trumps Verteidigungsministerium, dem Anthropic sein Large-Language-Model Claude für die Entwicklung moderner Tötungsmaschinen bereitstellt. Die Arbeit an autonomen Waffensystemen firmiert im Pentagon unter dem Namen „Project Maven“. Mit von der Partie sind auch Peter Thiels Überwachungsunternehmen Palantir und Amazon.
Anthropics KI ermöglicht es Analysten des Militärs, alle möglichen Informationen – von Berichten bis Satellitenbildern in Sekundenschnelle zu durchforsten. Claude hilft bei der Auswahl von Zielen und liefert die juristische Rechtfertigung für den Angriff gleich mit. Auf Palantirs AIPCon-Konferenz im März beschrieb der dort angestellte Chad Wahlquist die Nützlichkeit von Project Maven für den US-israelischen Angriffskrieg auf den Iran.
„Normalerweise hätten wir 2.000 Geheimdienstoffiziere, die versuchen, Ziele zu identifizieren und Daten zu analysieren. Jetzt sind es 20, und sie haben das Tempo noch erhöht“, sagte Wahlquist. Laut der Reporterin Katrina Manson ermöglichen moderne Sprachmodelle die Generierung von etwa 5.000 Angriffszielen pro Tag.
=”” span=””>
Dieser Text erschien zuerst in der wochentaz, unserer Wochenzeitung von links!
In der wochentaz geht es jede Woche um die Welt, wie sie ist – und wie sie sein könnte. Eine linke Wochenzeitung mit Stimme, Haltung und dem besonderen taz-Blick auf die Welt. Jeden Samstag neu am Kiosk und natürlich im Abo.
=”” div=””>
Auch wenn in diesen Entscheidungsketten formal noch Menschen das letzte Wort haben: Lässt sich die Frage stellen, ob angesichts der Leistungssteigerung durch KI der menschliche Beitrag nicht auf eine Formalität reduziert wird? 2017 noch protestierten 3.000 Google-Angestellte gegen die militärische Nutzung ihrer Arbeit, woraufhin der Konzern einen Rückzieher machte.
Heute arbeitet das „ethischste“ KI-Unternehmen an der Automatisierung der Kriegsmaschinerie. Und auch Anthropic-CEO Dario Amodei spricht sich nicht für ein generelles Verbot autonomer Waffen aus – nur unter heutigen Bedingungen seien diese abzulehnen. Wenn Papst Leo es also ernst meint mit der Entwaffnung der KI, dann muss er auch Anthropic meinen.
