Hacker nutzen Deepfake-Videos für Gesundheitsspam

Bitdefender hat weltweit Kampagnen beobachtet, die mit KI-generierten Deepfake-Videos und -Audios von auf Social-Media-Plattformen für angebliche Behandlungsmethoden und Gesundheitsprodukte werben. Die manipulierten Inhalte vermeintlicher Prominenter wie Christiano Ronaldo, Dieter Bohlen und Brad Pitt werden über Anzeigen in sozialen Medien und auf kriminellen Websites verbreitet.

Die Anzeigen werden für Finanzbetrug genutzt oder um persönliche Daten abzugreifen. Die KI-generierten Deepfakes wiederum ermöglichen Betrügern das erfolgreiche Ausspielen regional und individuell zugeschnittener Spam-Mailkampagnen. Den angegriffenen Verbrauchern und Organisationen falle es schwieriger, die Betrugsversuche zu erkennen, zu blockieren und sich dagegen zu verteidigen, so Bitdefender weiter. „Die Qualität der Videos steigt. KI senkt zudem die Sprachbarriere beim Erstellen von Deepfakes, so dass die Angreifer Video-Fakes in fast zwanzig europäischen Sprachen erzeugen konnten.“

Viele Anzeigen sind den Forschern zufolge flankiert von Webseiten zur Promotion der beworbenen Gesundheitsprodukte, die zeitlich begrenzt im Sonderangebot verfügbar sein sollen. Dort fänden sich dann auch gefälschte, mit Large Language Models generierte Testberichte und nachgebaute Chat-Prompts mit Experten. Über betrügerische E-Commerce-Checkouts in Webshops griffen die Hacker dann persönliche Informationen, wie Kreditkartennummern ab. Um den finanziellen Erfolg zu steigern, würden außerdem Kunden aufgefordert, mehrere Medikamente zu kaufen, da nur so die Therapie anschlage.