E s ist ein Stoff, aus dem sich ein apokalyptischer Near-Future-Science-Fiction-Thriller stricken ließe: Eine künstliche Intelligenz (KI), die eigentlich einen Testlauf absolvieren soll, findet eine unbekannte Sicherheitslücke. Sie gelangt so ungeplant ins Internet und startet dort einen Cyberangriff. Was dann kommt – lahmgelegte Stromversorgung, zusammenbrechende Zivilisationen –, ist Fantasie. Doch bis zum Angriff, der im aktuellen Fall nur eine Softwareplattform traf, ist es Realität.

Bei allem Gruselpotenzial, das der Fall bereithält und das auch durch den Fakt, dass es nicht der erste Vorfall dieser Art war, noch verstärkt werden könnte: Ja, KI kann Gefahren bedeuten, aktuelle und absehbare, über die wir als Gesellschaft diskutieren und Lösungen finden müssen, und zwar dringend. Aber nein, deshalb Weltuntergangserzählungen zu spinnen, wäre die falsche Strategie, selbst wenn ein tragfähiges Geschäftsmodell noch fehlt.

Solche Erzählungen kommen vor allem den großen Playern der KI-Branche gelegen. Denn sie signalisieren zweierlei: Erstens ist die Technologie mächtig. Damit beeindruckt man In­ves­to­r:in­nen und sammelt Milliarden ein. Zweitens lenkt Fatalismus ab. Weil er den Blick verstellt für die tatsächlichen aktuellen Probleme, die KI mit sich bringt, und damit ihre Regulierung behindert.

Und die vorhandenen Probleme sind zahlreich: das massenhafte Datensammeln der Big-Tech-Konzerne, das die Basis ist für das Training der KI-Modelle; das Problem der sogenannten Blackbox, dass also bei den meisten Modellen nicht mal die Ent­wick­le­r:in­nen durchschauen, wie ihre KI zu einem Ergebnis kommt; massenhaft mittels KI generierte Fake News; Propaganda; gefällige, aber sinnlose Müllinhalte; Urheberrechtsverletzungen; Verzerrungen durch unausgewogenes Datenmaterial, was einzelne Bevölkerungsgruppen benachteiligt.

Dazu kommt: Hätte OpenAI im aktuellen Fall ein Freidrehen seines KI-Modells verhindern wollen – es wäre ein Leichtes gewesen. Schon einfache Sicherheitsmaßnahmen hätten geholfen, etwa eine physische Trennung der Testumgebung vom Internet.

taz debatte

=”” div=””>

Demonstration der Möglichkeiten?

Dass es trotzdem schiefging, lässt zwei Schlussfolgerungen zu: Entweder hat OpenAI den Angriff billigend in Kauf genommen. Das wäre nicht überraschend, schließlich macht Konkurrent Anthropic seit Monaten Schlagzeilen mit angeblich überragenden Fähigkeiten seiner neuen KI-Modelle. Wenn nun OpenAIs Modell eine unbekannte Sicherheitslücke findet und ausgehend davon einen Cyberangriff startet, ist das in dieser Lesart eine Demonstration der Möglichkeiten der Firma.

Oder: Die zuständigen Ent­wick­le­r:in­nen haben eine unterirdische Kompetenz in Sachen IT-Sicherheit und mit einem leichtsinnigen und vermeidbaren Fehler ein Sicherheitsrisiko geschaffen. Das wäre ein Szenario, das zwar unspektakulärer ist als ein extrem leistungsfähiges KI-Modell, das seine menschlich gesetzten Grenzen sprengt. Aber nicht weniger gruselig.