Über 75 zivilgesellschaftliche Organisationen verpflichten sich zu strengeren Regeln im Umgang mit künstlicher Intelligenz (KI). „Wir dürfen die Diskussion zu KI nicht Big Tech überlassen“, erklärt Monika Ilves vom digitalpolitischen Verein D64, der das Projekt koordiniert hat. Die Organisationen zeigten mit der Unterzeichnung: „Die Zivilgesellschaft kann und will mitgestalten: für eine demokratische digitale Zukunft.“ Mit dabei sind unter anderem der Naturschutzbund, die Amadeu Antonio Stiftung, der Deutsche Volkshochschul-Verband und die Plattform Abgeordnetenwatch.

Vor allem generative künstliche Intelligenz, mit der sich Texte, Bilder, Audios oder Videos erzeugen lassen, gilt seit dem Start des Dienstes ChatGPT vor drei Jahren als zentrale Zukunftstechnologie. Ob diese Prognose sich bewahrheitet, ist zwar noch nicht ausgemacht, denn tragfähige Geschäftsmodelle sind noch rar. Doch die Nutzung von KI-Anwendungen verbreitet sich im Alltag, in Firmen und Organisationen immer mehr – vom Übersetzungsdienst bis hin zum Generieren von Bildern oder Hilfe bei der Texterstellung.

Um der neuen Technologie einen gesetzlichen Rahmen zu geben, hat die EU im vergangenen Jahr den AI Act beschlossen, eine Verordnung zu künstlicher Intelligenz. Die Regeln werden zeitlich gestaffelt wirksam. Doch aus der Wirtschaft kommen jetzt schon Stimmen, die sich für eine Abschwächung aussprechen.

Mit der Selbstverpflichtung setzen die NGOs nun ein gegenteiliges Signal. Sie sichern unter anderem zu, vor einem Einsatz von KI ressourcenschonendere Alternativen zu prüfen und beim Einsatz auch die Bedürfnisse von den Menschen zu berücksichtigen, die KI nicht nutzen können oder wollen.

Kennzeichnung bei KI-Einsatz

Wird ein Inhalt ganz oder in weiten Teilen mithilfe von KI generiert, soll das gekennzeichnet werden – auch bei Übersetzungen. Bei der Entwicklung, Auswahl und dem Einsatz von KI-Systemen sollen Beteiligungsmöglichkeiten für die Mitarbeitenden und, falls betroffen, auch für Dritte geschaffen werden.

„Der Einsatz von KI kann Prozesse unterstützen, den Zugang zu Wissen erleichtern und neue Formen der Teilhabe ermöglichen“, heißt es in der Präambel der Selbstverpflichtung. Entscheidend sei, dass der Einsatz ethische, rechtliche, soziale, ökologische und technische Auswirkungen berücksichtige.

„Die Regeln geben uns einen Rahmen, der uns hilft bei der Überlegung, wo wir KI einsetzen können und wo besser nicht“, sagt Ruven Börger vom Arbeiter-Samariter-Bund, einem der unterzeichnenden Verbände.

Eine Anwendung ist laut Börger bereits breit im Einsatz: eine Software, die Pflegekräfte bei der Dokumentation ihrer Arbeit unterstützt. Statt ihre Arbeiten schriftlich festzuhalten, können sie die Dokumentation einsprechen – die KI wandelt sie in Text um und platziert die einzelnen Punkte an den richtigen Stellen in den notwendigen Dokumenten. Das spart laut Börger Zeit, die die Pflegenden den Pflegebedürftigen widmen können.