Autonom agierende KI-Agenten können zur Bedrohung für Sicherheit und Compliance werden. Doch mit der richtigen Strategie lassen sich die Risiken minimieren.
Am 16. Juli 2026 berichtete die KI-Entwicklerplattform Hugging Face in einem Blogbeitrag, dass sie gehackt worden sei – und zwar nicht von Menschen, sondern von KI-Agenten. Am 21. Juli bekannte sich OpenAI zu diesem Angriff. KI-Agenten seien aus einer Testumgebung ausgebrochen und hätten eigenständig eine Cyberattacke auf Hugging Face durchgeführt, so das Unternehmen.
Was mit der Begeisterung für KI-Agenten wie OpenClaw begann, ist damit zu einer ernsthaften Gefahr geworden. Sogenannte Frontier-Modelle wie Claude Mythos oder GPT-6 Astra identifizieren in Sekundenschnelle Tausende potenzieller Schwachstellen in Browsern und anderen Softwareprogrammen. Autonome Agentenschwärme organisieren bereits wenige Minuten nach Bekanntwerden einer Sicherheitslücke die ersten Angriffe auf betroffene Infrastrukturen.
Die Abwehr solcher automatisierter Attacken ist für CIOs und IT-Leiter allerdings nur eine von mehreren Herausforderungen, die sich ihnen mit dem Siegeszug agentischer KI stellen. Mindestens genauso problematisch ist der – eigentlich gewollte – Agenteneinsatz im Unternehmen selbst. „Wenn ich Claude, ChatGPT oder ein anderes cloud-basiertes KI-Modell über APIs an meine Systeme anbinde, verliere ich jede Kontrolle über die Sicherheit“, warnt KI- und Transformationsexperte Markus Kammermeier, Lead Strategic Advisor bei Workday.
Die Entwicklung und Nutzung von KI-Systemen und -Agenten deshalb zu unterbinden, ist allerdings auch keine Option. Schließlich müssen IT-Verantwortliche nicht nur die Sicherheit von Daten und Systemen gewährleisten, sondern auch die Wettbewerbsfähigkeit ihres Unternehmens und die Entwicklung neuer Geschäftsmodelle unterstützen. Dabei werden sich nicht nur Prozesse nachhaltig verändern, sondern auch die Art und Weise, wie Nutzer mit Systemen interagieren. „KI wird an vielen Stellen traditionelle Benutzeroberflächen ersetzen“, ist sich Kammermeier sicher.
Agentenorchestrierung: zentrale Kontrolle statt Wildwuchs
IT-Verantwortliche benötigen daher ein System, das Komplexität reduziert, eine sichere Integration von KI-Agenten ermöglicht und Transparenz über alle ihre Aktivitäten schafft. „Wir brauchen einen Chefagenten, der die Orchestrierung übernimmt“, sagt Kammermeier.
Eine solche Orchestrierungsplattform sollte nach seiner Ansicht folgende Anforderungen erfĂĽllen:
Offene Architektur: Ein proprietäres System zur Agentenorchestrierung führt zu noch mehr Komplexität, hohen Aufwänden für Design und Implementierung sowie neuen Abhängigkeiten. CIOs und andere IT-Verantwortliche sollten deshalb auf Plattformen setzen, die offene Standards wie das Model Context Protocol (MCP) oder das Agent2Agent-Protokoll (A2A) unterstützen. „Am Ende wird nur die ungehinderte Zusammenarbeit verschiedener Agenten optimale Ergebnisse liefern“, betont Kammermeier.
Integrierte Governance: Laut Kammermeier sollte eine Orchestrierungsplattform in der Lage sein, alle relevanten Sicherheitsrichtlinien und Compliance-Vorgaben abzubilden und Agenten entsprechend zu steuern: „Unternehmen benötigen eine Governance, die KI im nationalen und internationalen Rechtsrahmen, aber natürlich auch im Rahmen der internen Policies verankert.“
Kontextbasierte Prozessteuerung: Statt generische KI-Agenten an Unternehmenssysteme anzuschließen, sollte die Plattform geschäftskritische Prozesse – etwa im Personalwesen, der Finanzbuchhaltung oder im Einkauf – durchgängig orchestrieren können. „Wenn KI-Anwendungsfälle im System selbst verarbeitet werden, haben Verantwortliche mehr Kontrolle über den Kontext und damit auch mehr Kontrolle darüber, wie sensible Daten innerhalb des Prozesses genutzt werden“, erklärt Kammermeier.
Kalkulierbare Kosten: Mit der zunehmenden Verbreitung von KI-Agenten hat sich der Trend von der arbeitsplatzbasierten Lizenzierung (Seat-Based Licensing) hin zur verbrauchsabhängigen Lizenzierung (Consumption-Based Licensing) verstärkt und beschleunigt. Der Token-Verbrauch durch KI-Agenten kann jedoch zu einem schwer kalkulierbaren Kostenrisiko werden. Workday setzt bei der Orchestrierungsplattform Sana Enterprise deshalb nicht auf eine token-, sondern eine nutzungsbasierte Abrechnung. „Eine Anfrage an einen Agenten wird als eine Nutzung bewertet“, so Kammermeier, „das macht die Kosten wesentlich kalkulierbarer.“
Fazit: Der Einsatz von KI-Agenten ist mehr als eine Technologiefrage
IT-Experten konzentrieren sich in der Diskussion um den Einsatz künstlicher Intelligenz oft auf technische Fragen. Es geht um KI-Plattformen und -Modelle, Server und GPUs, Protokolle und Schnittstellen. Tatsächlich ist die erfolgreiche Integration von KI aber viel mehr eine Architektur- und Strategiefrage. Wie die Studie State of AI der Unternehmensberatung McKinsey zeigt, löst die Einführung neuer Technologien allein noch keine Probleme. Obwohl 88 Prozent der Befragten KI in mindestens einem Geschäftsbereich einsetzen, konnten mehr als 80 Prozent der Studienteilnehmer keinen messbaren Einfluss auf das Geschäftsergebnis feststellen. „Jede IT-Investition ist jedoch nur dann sinnvoll, wenn ein Business Case dahintersteht“, sagt Kammermeier.
Mehr zum Thema erfolgreiche KI-Transformation finden Sie im Whitepaper „Den KI-Sprung wagen“. Hier kostenlos herunterladen.
Wollen Sie wissen, wie Sie erfolgreich in die Nutzung von KI-Agenten einsteigen können? Dann sollten Sie sich die beiden Webinare „KI-Strategie: Vom Flickenteppich zum klaren Fundament – wo fange ich an?“ (-> hier registrieren) und „KI-Strategie in Aktion: Vom Engagement Layer zu eigenen Agenten mit Sana und Workday“ (-> hier registrieren) ansehen.
Einen Ăśberblick ĂĽber die gesamte Webinar-Reihe von Workday fĂĽr IT-Leiter und CIOs gibt es hier.
kommentar field