Agentic Trust Controls - Open-Source-Framework fuer KI-Agent-Sicherheit

Agentic Trust Controls (ATC) ist ein neues Open-Source-Framework, das speziell fuer die Sicherheit und Governance von KI-Agenten entwickelt wurde. Es erweitert bestehende Frameworks wie ISO 27001 und ISO 42001 mit Kontrollen, die auf die einzigartigen Risiken autonomer KI-Agenten zugeschnitten sind.

Das Problem

Bestehende Security- und AI-Governance-Frameworks wurden nicht fuer KI-Agenten konzipiert. Sie erwarten, dass Organisationen zusaetzliche Kontrollen selbst definieren - aber die meisten Teams haben keinen praktischen Startpunkt fuer die Governance von AI-Agenten.

Zwei Baselines

• Developer-Baseline (43 Kontrollen): Fuer Teams, die KI-Agenten bauen. Deckt Identity und Authority, Action Guardrails, Memory Protection, Instruction Integrity, Adversarial Testing und Runtime Instrumentation ab.
• User-Baseline (22 Kontrollen): Fuer Organisationen, die Agenten von Drittanbietern einsetzen. Umfasst Agent Inventory, Credential Control, Vendor Review, Runtime Monitoring und Staff Training.

Insgesamt 65 Kontrollen ueber 12 Domaenen, die auf ISO 27001 und ISO 42001 gemappt sind.

MCP-Integration geplant

Ein Highlight ist die geplante MCP-Server-Anbindung. Damit koennen KI-Agenten und Tools direkt auf die Kontrollen zugreifen und diese als Referenz nutzen. Das Projekt wird von Vanta unterstuetzt und als Open Source bereitgestellt.

Der Ansatz ist vielversprechend: Anstatt Regeln von Grund auf neu zu erfinden, lassen sich bestehende Compliance-Frameworks gezielt um KI-Agent-spezifische Kontrollen erweitern.

Originalquelle: trustcontrols.ai