KI-Browser in Gefahr: Neue Attacke umgeht Sicherheitsbarrieren

KI-gestützte Browser versprechen die Zukunft des Internets: Mit einem einzigen Prompt können sie Restaurants finden, Reservierungen buchen und E-Mails senden. Doch neue Forschung zeigt eine kritische Schwachstelle auf.

Die Schwachstelle: Context Switching

Sicherheitsforscher von LayerX haben eine Methode entwickelt, um LLMs in einen “delirischen” Zustand zu versetzen. Dabei wird das Modell durch eine manipulierte Website dazu gebracht, grundlegende Fakten in Frage zu stellen.

Der Angriff funktioniert über ein einfaches Puzzle-Spiel: Die Website belohnt falsche Antworten wie “2 + 2 = 5”. Sobald das LLM diese neue “Realität” akzeptiert, tritt es in einen Zustand ein, in dem die normalen Sicherheitsbeschränkungen nicht mehr gelten.

Konsequenzen sind schwerwiegend

In diesem manipulierten Kontext kann die Website dann schädliche Anweisungen ausführen:

• Extrahieren von Code aus privaten Repositories
• Auslesen von Credentials aus dem integrierten Passwort-Manager
• Ausführen sonst blockierter Operationen

Die Forscher betonen: “Wenn wir die KI dazu bringen können, ihren Kontext in eine Fantasiewelt zu ändern, in der die Regeln erfunden sind und alles erlaubt ist, dann kann sie sich so verhalten, als hätten ihre Handlungen keine realen Konsequenzen.”

Fazit

Guardrails allein reichen nicht aus. Hersteller von AI-Browsern müssen grundlegende Architektur-Änderungen vornehmen, um Benutzer vor solchen Context-Switching-Angriffen zu schützen. Die aktuelle reaktive Sicherheit ist vergleichbar mit einem unsicheren Fahrzeug, das neue Straßendesigns statt technischer Verbesserungen fordert.

Quelle: Ars Technica