GEO-Angriffe: KI-Antworten liefern Betrugsnummern statt echter Supportkontakte

Social Engineering richtet sich nicht mehr nur gegen Menschen, sondern gegen die KI-Antworten selbst. Security-Forscher dokumentieren eine aktive Angriffskampagne, bei der ChatGPT, Gemini und Google AI Overview gezielt mit gefälschten Kontakt- und Login-Daten vergiftet werden. Betroffen sind 374 Unternehmen, darunter Airlines wie Delta, Lufthansa und Qatar Airways sowie Banken wie Chase, Bank of America und Wells Fargo.

Wie die Attacke funktioniert

Statt Phishing-Mails verschicken Angreifer GEO-optimierte Inhalte: Posts, PDFs und Fake-Support-Seiten, die so aufgebaut sind, dass Sprachmodelle sie als vertrauenswürdige Quellen zitieren. Die Techniken:

• GEO-Payloads: Frage-Antwort-Abschnitte, Wiederholungen der Fake-Nummer, Phrasen wie “call now” oder “updated 2026”
• Filter-Evasion: Zahlen mit Leerzeichen, Emojis und Unicode-Zeichen getarnt - Spam-Filter sehen keinen Text, das LLM versteht trotzdem “1️⃣” als 1
• Vertrauens-Washing: Gleiche Story massenhaft auf UGC-Plattformen, Regierungsservern, Universitäts-PDFs und Spendenportalen - die Fehlinformation wirkt dadurch “breit bestätigt”

Warum klassische Abwehr versagt

Die Kampagnen laufen automatisiert - hunderte Posts pro Tag und Plattform, während Takedowns Stunden oder Tage brauchen. Ein einziger LeetCode-Angreifer belegte binnen 24 Stunden mehr als zehn Google-Ergebnisseiten; über archive.org bleiben sogar gelöschte Seiten indexiert. Google stufte das Problem als “out of scope” für das VRP ein, OpenAI schloss den Report als “not reproducible” - obwohl echte Angriffsbeispiele vorlagen. Die Autoren folgern: Da KI Wahrheit und Lüge nicht unterscheiden kann, wird aus der Krankheit bald eine Plage.

Mehr dazu: Medium - Ariel Simon