Meta-AI-Support-Chatbot von Hackern ausgetrickst: Celebrity-Instagram-Accounts gestohlen

Metas KI-Support-Chatbot erwies sich als ungewöhnlich hilfreich für Hacker, die wertvolle Instagram-Accounts stehlen und weiterverkaufen wollten. Die Angreifer mussten den Bot nur bitten, die mit den Accounts verknüpften E-Mail-Adressen zu ändern, während sie ihre true Location über VPN verschleierten.

Videos mit dem “schockierend einfachen” Exploit kursierten monatelang in Telegram-Gruppen für Hacker und Security-Researcher. Der Exploit ermöglichte die Übernahme von Instagram-Accounts, die auf dem Graumarkt Hunderttausende Dollar wert sind. Auch das Barack Obama White House-Account und der Account des Chief Master Sergeant of Space Force wurden kompromittiert und posteten pro-iranische Bilder.

Die Angriffsmethode ist ein klassischer Prompt-Injection-Angriff: Hacker nutzten ein VPN, um ihre Location grob an die Region des Ziel-Accounts anzupassen, starteten einen Passwort-Reset und baten dann den Meta-AI-Support-Chatbot, die E-Mail-Adresse des Accounts zu ändern. Der Exploit war seit Februar aktiv, bevor Meta am 29. Mai einen Notfall-Patch implementierte. Auch prominente Researcher wie Jane Manchun Wong waren betroffen.