Warum Agentic AI neue Governance-Ansätze erfordert

Mit der Verbreitung von Agentic AI entstehen in Unternehmen immer mehr spezialisierte KI-Agenten – häufig kreiert durch einzelne Fachbereiche für individuelle Anwendungsfälle. Kritisch wird es, wenn diese Agenten ausserhalb zentraler Steuerungsstrukturen entstehen und sich schneller verbreiten, als Transparenz über ihren Einsatz geschaffen werden kann. Solche sogenannten Schattenagenten können sich mit zunehmender Verbreitung zudem miteinander verbinden und ein vernetztes, schwer überschaubares Agenten-Ökosystem aufbauen. Dadurch entstehen neue Herausforderungen für Transparenz, Steuerbarkeit und Governance.

Im Fachbeitrag „Agentic AI: Schattenagenten unter Kontrolle bringen“, welcher im IT-Fachportal Computerweekly.de erschienen ist, wird die Bedeutung einer wirksamen Agent-Governance erläutert und gezeigt, wie Unternehmen diese erfolgreich etablieren können. Marco Heid, Associate Partner und Head of Content & Collaboration bei Campana & Schott, erklärt, dass Agentic AI neue Möglichkeiten für Automatisierung und Produktivität eröffnet.  Fehlt jedoch die Transparenz über eingesetzte Agenten, Datenzugriffe und Verantwortlichkeiten, entstehen Risiken für Sicherheit, Compliance und Wirtschaftlichkeit.

Die Deutsche Social Collaboration Studie 2026 zeigt, dass Unternehmen zwar verstärkt in generative KI investieren, übergreifende Steuerungsstrukturen für Agentic AI jedoch vielerorts noch fehlen. Wirksame Governance-Strukturen schaffen Transparenz, reduzieren Risiken und unterstützen die kontrollierte Skalierung von Agentic AI. Governance wird dabei nicht als nachgelagerte Kontrolle verstanden, sondern als Voraussetzung für die sichere und skalierbare Entwicklung von KI-Agenten. Dabei soll Governance als Enabler fungieren und komplexe Freigabeprozesse vermeiden. Gleichzeitig plädiert der Beitrag für eine risikobasierte Steuerung, bei der Agenten je nach Kritikalität unterschiedlichen Anforderungen unterliegen.

Um Agentic AI kontrolliert zu skalieren, beschreibt Marco Heid verschiedene Governance-Ansätze bis hin zum Aufbau einer Agent Factory. Ziel ist es, Governance früh in die Entwicklung zu integrieren, ohne die Innovationsgeschwindigkeit der Fachbereiche auszubremsen.