Ein Video von Friedrich Merz ploppt auf dem Facebook-Feed auf. Er sagt, man habe Anspruch auf eine Hilfszahlung in Höhe von mehrere 1000 Euro, die man auf einer offiziellen Website des Bundes beantragen könne. Dann erscheint ein Link, der dort hinführe. Man klickt drauf, gibt sensible Daten an – und wird gescammt.

Etwa so muss es vielen US-Amerikaner_innen gegangen sein, die in den vergangenen Monaten derartigen Deepfakevideos auf verschiedenen Meta-Plattformen, darunter auch Instagram oder Facebook, begegnet sind. 63 betrügerische Werbetreibende konnte die Watchdog-Gruppe Tech Transparency Project (TTP), – ein Projekt, das, wie ihr Motto verrät, Big Tech zur Verantwortung zieht – identifizieren.

Ihre Recherche ergab, dass die Werbetreibenden mehr als 150.000 dieser Scamanzeigen auf Meta-Plattformen schalteten und dafür insgesamt um die 49 Millionen Dollar ausgaben. Damit gehörten die Scammer 2025 zeitweise zu den größten politischen Werbekunden auf Facebook und Instagram, schreibt TTP.

In den Videos waren Politiker_innen wie Elizabeth Warren, Senatorin in Massachusetts, zu sehen, aber auch das Deepfake von Karoline Leavitt, Trumps Pressesprecherin, warb für die Betrugsseiten. Außerdem gab es Deepfakes von Trump, in denen er US-Amerikaner_innen kostenlose Gesundheitsversorgung versprach und das als seinen „ersten göttlichen Akt“ bezeichnete.

Deepfakes sind mit künstlicher Intelligenz (KI) erstellte Bilder oder Videos, zum Beispiel von echten Menschen. Die KI wird mit Bildern und Tonaufnahmen einer Person gefüttert und spuckt dann ein Video aus, in dem die Person von sich gibt, was der Ersteller des Videos promptet. Innerhalb weniger Minuten lassen sich solche Deepfakes erstellen, etwa mit Sora, Canva oder Pictory.

In Deutschland kamen Scams von russischen Hackern

Gerade für Menschen, deren Blick nicht trainiert ist, KI-Inhalte von echten Bildern zu unterscheiden, für Betrugsmaschen wie diese anfällig. Das zeigt auch die TTP-Recherche. Die Anzeigen, die die Scammer auf Facebook platzierten, sei besonders an über 65-Jährige gerichtete gewesen – Werbung auf Meta lässt sich gezielt schalten.

Obwohl Meta-Richtlinien betrügerische Werbung verbietet, konnten die Anzeigen auf den Plattformen laufen. Angeblich unterlägen politische Werbetreibende laut Meta außerdem einem strengeren Autorisierungsprozess. „TTP stellte fest, dass Meta diese Werbetreibenden nicht nur zugelassen hat, sondern ihnen auch gestattet hat, tage- oder wochenlang betrügerische Anzeigen zu schalten, ohne dagegen vorzugehen“, wie TTP in dem Bericht schreibt. Mittlerweise habe Meta einen Teil der Anzeigen blockiert. Trotzdem habe der Tech-Riese damit Werbeeinahmen generiert und auch der Schaden für die Opfer ließe sich so nicht rückgängig machen.

In Deutschland habe es vergangenes Jahr ähnliche Fälle gegeben, berichtet Philipp Plum von der Cybersicherheitsfirma ESET. „August 2024 haben wir eine Deepfake-Kampagne hier in Deutschland aufgedeckt, bei der Cyberkriminelle verschiedene Prominente gedeepfaked und damit Werbung auf Plattformen wie Facebook geschaltet haben.“ Abgebildet waren in den Videos etwa Friedrich Merz oder SAP-Gründer Dietmar Hopp, die für eine Kryptowährung warben. Da per Anzeigen auf diese Videos verwiesen wurde, habe Meta wahrscheinlich auch damit Geld verdient.

„In dem konkreten Fall konnten wir Spuren zu Hackern in Russland und der Ukraine zurückführen“, sagt Plum der taz. „Deepfakes werden immer besser, selbst Profis haben Schwierigkeiten, sie zu erkennen.“ Unnatürliche Lichtreflexionen oder eine seltsame Mimik seien Indikatoren, auf die man achten solle, „aber auch wenn einem das Blaue vom Himmel versprochen wird.“

Bernie Sanders, dessen Deepfake die Scammer ebenfalls verwendeten, sagte in einem Statement über die TTP-Recherche, dass das Ganze Teil eines größeren Problems sei. „KI entwickelt sich rasant, aber die Gesetze und Schutzmaßnahmen, die wir für die amerikanischen Bürger im Alltag haben, sind gefährlich veraltet.“ Europa ist den USA da kaum voraus.