„Magnifica humanitas“, „großartige Menschlichkeit“: So heißt die erste Enzyklika des seit einem Jahr amtierenden Papstes, die Leo XIV. am Pfingstmontag im Vatikan vorstellte. Darin widmet er sich dem Großthema Künstliche Intelligenz. Unterschrieben hat Papst Prevost sein Werk allerdings – und mit Bedacht – schon am 15. Mai, dem Tag, als sich jene Enzyklika von Leo XIII. zum 135. Mal jährte, mit der die kirchliche Soziallehre in die Welt kam.

„Rerum novarum“ hieß der damalige Rundbrief aus dem späten 19. Jahrhundert, in dem es um die industrielle Revolution und ihre Auswirkungen ging. Und auch Leo XIV. spricht jetzt wieder von „neuen Dingen“. Er stellt nichts Geringeres als die „digitale Revolution“ und vor allem die Künstliche Intelligenz mit ihren tiefgreifenden Folgen für Wirtschaft, Gesellschaft, Politik und Öffentlichkeit ins Zentrum seiner Überlegungen.

„Technologie kann heilen, verbinden, bilden und unser gemeinsames Haus schützen, aber sie kann auch spalten, ausgrenzen und neue Ungerechtigkeiten hervorbringen“, verkündet der Papst gleich zu Beginn: „Abstrakt betrachtet ist sie per se weder eine Lösung für die Probleme der Menschheit noch ein Übel. Konkret betrachtet aber ist sie nicht neutral, weil sie die Züge derer annimmt, die sie konzipieren, finanzieren, regulieren und nutzen.“

Bibelfest wie er ist, greift Prevost zu zwei Bildern, um die möglichen Wege der Menschheit in die KI-Zukunft zu beschreiben: den Turmbau zu Babel und die Wiedererrichtung der Mauern von Jerusalem – Hybris oder Heilung, das gigantische, am Ende scheiternde Werk einerseits, andererseits eine Gemeinschaftstat mit segensreichen Folgen.

Vielreiche Risiken

Zwar fallen die Namen von Peter Thiel oder Elon Musk, von Google, Meta oder ChatGPT an keiner Stelle der Enzyklika. Doch wo er das Babel-Risiko sieht, schweigt Leo XIV. nicht: „Im digitalen Bereich liegt die Kontrolle über Plattformen, Infrastrukturen, Daten und Rechenleistung in vielen Fällen nicht in der Hand der Staaten, sondern von großen wirtschaftlichen und technologischen Akteuren, die de facto die Zugangsbedingungen, die Regeln der Sichtbarkeit und die Möglichkeiten der Teilhabe selbst festlegen.“

Damit, so der Papst, bestehe die Gefahr, dass die KI „undurchsichtig wird und sich der öffentlichen Kontrolle entzieht“, und dies erhöhe „das Risiko einer schiefen Entwicklung, die neue Abhängigkeiten, Ausgrenzungen, Manipulationen und Ungerechtigkeit erzeugt“.

Mittlerweile dringt KI in alle Bereiche vor, warnt der Papst, und bringt zahlreiche Risiken mit sich – angefangen bei der Umwelt, weil Rechenzentren enorm viel Energie verbrauchen. Doch die Liste der Gefahren und Nebenwirkungen endet hier nicht. So sei es fatal, wenn sensible Entscheidungen, ob bei der Job- oder der Kreditvergabe, „vollständig automatisierten Systemen überlassen werden“, fatal auch, „wenn KI-Systeme, die sich neutral und objektiv geben, Stereotypen oder ideologische Standpunkte ihrer Entwickler und Programmierer widerspiegeln und verstärken“.

„Eine einfache, aber zwingende Konsequenz“ liege deshalb auf der Hand: „Wir können KI nicht als moralisch neutral betrachten.“ Deshalb bedürfe es „angemessener rechtlicher Rahmenbedingungen, unabhängiger Aufsicht, Aufklärung der Nutzer und einer Politik, die sich nicht ihrer Aufgabe entzieht“, denn anderenfalls drohe uns, „dass Regeln durchgesetzt werden, die von denjenigen diktiert werden, die über Daten, Infrastruktur und Rechenkapazitäten verfügen“.

Deshalb fordert der Papst etwa einen Ethikkodex, der auch soziale Gerechtigkeit berücksichtigt. Um die drohende Macht weniger Tech-Oligarchen zu verhindern, verlangt er wirksame Kontrollen und Regeln, die verhindern, dass Daten privates Eigentum werden, statt „ein gemeinsames oder kollektives Gut“ zu bleiben. Dringend nötig sei auch eine neue „Ökologie der Kommunikation“. Deshalb, so Leo XIV., müssen wir „die KI entwaffnen“, sie den Monopolen entziehen: „Entwaffnen bedeutet nicht, auf die Technologie zu verzichten, sondern zu verhindern, dass sie den Menschen beherrscht.“