Künstliche Intelligenz schreibt heute nicht nur Texte und kreiert Bilder. Sie fasst Meetings zusammen, priorisiert Tickets, verdichtet Incident-Informationen – und beeinflusst damit operative sowie strategische Entscheidungen. Ein Risiko, findet Chris Dimitriadis, Chief Global Strategy Officer von ISACA, dem globalen Fachverband für Digital Trust, Cybersecurity, Governance, Audit und Risk Management.
„Die gefährlichste KI-Halluzination ist nicht die offensichtlich falsche Antwort im Chat. Es ist die scheinbar plausible Aussage, die unbemerkt zur Unternehmenswahrheit wird“, sagt Dimitriadis. Und die Ausgangslage dafür ist bereits da. Laut ISACA AI Pulse Poll 2026 glauben 92 Prozent der europäischen Fachleute, dass Mitarbeitende in ihren Unternehmen KI nutzen. Aber nur 42 Prozent berichten von einer formellen KI-Richtlinie. 33 Prozent verlangen nicht einmal, offenzulegen, wenn KI zu Arbeitsergebnissen beigetragen hat. Das Problem ist weniger die Verbreitung von KI als die Lücke zwischen Nutzung, Nachvollziehbarkeit und Kontrolle.
Integrität reicht nicht mehr in ihrer alten Definition
Bisher wurde Integrität in der IT-Sicherheit vor allem technisch gedacht: Wurde eine Datei verändert? Ist ein Hash korrekt? Ist ein Log manipulationssicher? Bei KI reicht das nicht mehr. Ein Text kann technisch unverändert und korrekt versioniert sein – und trotzdem sachlich verkürzt, kontextarm oder irreführend sein.
Deshalb braucht Integrität laut Dimitriadis heute mindestens drei Ebenen: technische, semantische und entscheidungsrelevante Integrität. Die erste fragt, ob etwas manipuliert wurde, die zweite, ob Aussagen den Quellen entsprechen, die dritte, ob wesentliche Einschränkungen oder Gegenargumente fehlen. Genau hier entsteht eine neue Angriffsfläche: nicht nur auf Daten und Systeme, sondern auf die Qualität von Schlussfolgerungen.
„Das ist für CISOs hochrelevant. Cybersecurity muss nicht nur die Datenlieferkette schützen, sondern auch die Erkenntnislieferkette: Woher kommt eine Aussage, welche Quelle wurde verwendet und wer hat sie geprüft?“, so Dimitriadis.
Ein KI-generiertes Incident Summary kann eine kritische Einschränkung weglassen oder ein schwaches Signal glätten, das den Unterschied zwischen Routine und beginnender Krise macht. Jede KI-Verdichtung ist eine Auswahl – und kann genau das verlieren, worauf Security angewiesen ist: Kontext.
Von der Tool-Governance zur Beweisbarkeit
Daraus folgt eine notwendige Konsequenz: Nicht jeder KI-Output verdient dieselbe Vertrauensstufe. Je höher ein KI-Ergebnis in der Organisation wandert, desto höher muss seine Nachweis- und Transparenzpflicht sein. Hier greift ein neues Prinzip: Zero Trust for Assertions. Unternehmen sollten nicht nur Identitäten, Geräte und Zugriffe verifizieren, sondern auch Aussagen: Welche Primärquelle stützt sie, welche Annahmen liegen zugrunde und was fehlt?
Für CISOs heißt das vor allem: Die Diskussion muss aus der Tool-Ecke heraus. Wer nur über erlaubte Modelle oder Einkaufsfreigaben spricht, übersieht die Gefahr der sich einschleichenden falschen Wahrheiten. Entscheidend ist, wann ein KI-Ergebnis als Grundlage für Handeln, Reporting oder Entscheidung gelten darf. Dafür braucht es nicht nur Richtlinien, sondern einen organisationsweiten Reifegradansatz, der Verantwortlichkeiten, Nachweisbarkeit und Kontrolltiefe systematisch verankert. Reifegradmodelle wie CMMI AIM können dabei helfen, diese Anforderungen in wiederholbare Praxis zu übersetzen.
Dimitriadis rät zu vier Schritten.
- Jedes Unternehmen benötigt eine Provenance Policy für KI-Outputs: Welche Ergebnisse dürfen ohne menschliche Prüfung genutzt werden?
- KI-Ergebnisse sollten nach Tragweite klassifiziert werden – kreativ, operativ, kontrollrelevant und entscheidungswirksam.
- Es braucht Citations by Design: Quellen, Aktualität, Unsicherheiten und Widersprüche müssen in KI-Antworten sichtbar sein.
- Wissensbasen müssen vor synthetischer Zirkularität geschützt werden – also davor, dass KI-generierte Inhalte später selbst als Primärquelle auftauchen.
Auch die Qualifizierung ist Teil der Sicherheitsarchitektur. Laut TÜV-Weiterbildungsstudie 2026 nutzen 56 Prozent der Unternehmen bereits generative KI, aber nur 27 Prozent haben ihre Mitarbeitenden dafür geschult. Wer KI breit einsetzt, ohne den Umgang mit Evidenz, Herkunft und Grenzen zu trainieren, schafft neue Angriffsflächen im eigenen Betrieb.
„Wir sollten KI nicht nur nach Produktivität bewerten. Wir müssen fragen, ob sie unsere Fähigkeit stärkt oder schwächt, zu wissen, was belastbar ist. Denn ein Unternehmen, das seine eigene Faktenbasis nicht mehr nachvollziehen kann, ist nicht nur schlecht gesteuert – es ist angreifbar“, sagt Dimitriadis.
Diese und weitere Fragen werden auch auf der ISACA Europe Conference vom 7. bis 9. Oktober in München diskutiert. Weitere Informationen gibt es hier.
kommentar field