Agentic Trust Controls - Open-Source-Framework für KI-Agent-Sicherheit

Agentic Trust Controls (ATC) ist ein neues Open-Source-Framework, das speziell für die Sicherheit und Governance von KI-Agenten entwickelt wurde. Es erweitert bestehende Frameworks wie ISO 27001 und ISO 42001 mit Kontrollen, die auf die einzigartigen Risiken autonomer KI-Agenten zugeschnitten sind.

Das Problem

Bestehende Security- und AI-Governance-Frameworks wurden nicht für KI-Agenten konzipiert. Sie erwarten, dass Organisationen zusätzliche Kontrollen selbst definieren - aber die meisten Teams haben keinen praktischen Startpunkt für die Governance von AI-Agenten.

Zwei Baselines

• Developer-Baseline (43 Kontrollen): Für Teams, die KI-Agenten bauen. Deckt Identity und Authority, Action Guardrails, Memory Protection, Instruction Integrity, Adversarial Testing und Runtime Instrumentation ab.
• User-Baseline (22 Kontrollen): Für Organisationen, die Agenten von Drittanbietern einsetzen. Umfasst Agent Inventory, Credential Control, Vendor Review, Runtime Monitoring und Staff Training.

Insgesamt 65 Kontrollen über 12 Domänen, die auf ISO 27001 und ISO 42001 gemappt sind.

MCP-Integration geplant

Ein Highlight ist die geplante MCP-Server-Anbindung. Damit können KI-Agenten und Tools direkt auf die Kontrollen zugreifen und diese als Referenz nutzen. Das Projekt wird von Vanta unterstützt und als Open Source bereitgestellt.

Der Ansatz ist vielversprechend: Anstatt Regeln von Grund auf neu zu erfinden, lassen sich bestehende Compliance-Frameworks gezielt um KI-Agent-spezifische Kontrollen erweitern.

Originalquelle: trustcontrols.ai