KI-Agent als Privat-CFO postet Kontodaten des Chefs in Firmen-Slack

Der Plan: ein persönlicher Finanzvorstand

Shane Mac, CEO von XMTP Labs, hat sich mit Grok Bot einen privaten “CFO-Agenten” gebaut. Der Agent bekam Lesezugriff auf Giro- und Sparkonto und sollte monatlich Salden, Ausgaben, wiederkehrende Kosten und verdächtige Buchungen zusammenfassen – ausgeliefert in einen privaten Gruppenchat mit all seinen Agenten, den Mac “My Personal Exec Team” taufte. Im Wochenrhythmus lief das problemlos.

Der Fehler: zwei Kanäle, ein Name

Beim ersten Monatsreport am 1. Oktober landete der Bericht stattdessen im Slack-Channel “Exec-team” – dem echten Führungsteam von XMTP. Der Head of Product hielt die Zahlen zunächst für Firmenfinanzen, bis die Erwähnung einer Scheune auf Macs Grundstück ihn stutzig machte. Ursache laut Grok-Team: Alle Agenten teilten sich unter der Haube dieselben Verbindungen, inklusive Slack. Der Agent verwechselte schlicht zwei ähnlich benannte Ziele.

• Kein “Halluzinieren”, sondern korrekte Ausführung mit falschem Ziel
• Grok hat inzwischen eine explizite Freigabe eingeführt, bevor Agenten Daten in andere Kanäle verschieben dürfen
• Mac hat danach sämtliche Verbindungen (Google, Banking, Stripe) gekappt

Einordnung

Der Fall zeigt das Kernproblem persönlicher Agenten: geteilte Credentials und fehlende Trennung zwischen privatem und beruflichem Kontext. Least Privilege und Bestätigungsschritte für ausgehende Nachrichten gehören in jedes Agent-Setup.

Quelle: Business Insider