Künstliche Intelligenz verlässt das Chatfenster und rückt in reale Geschäftsprozesse. Damit wird aus einer Modellfrage eine Betriebsfrage – und die Architektur zur Vertrauensfrage: Wer darf worauf zugreifen, wer protokolliert Entscheidungen und wie bleibt der Einsatz kontrollierbar?
Solange KI vor allem Texte formuliert, Dokumente zusammenfasst oder Fragen beantwortet, bleiben potenzielle Folgen überschaubar. Eine Antwort kann irritieren, muss geprüft und vielleicht auch verworfen werden. So weit, so beherrschbar. Anders sieht es aus, wenn KI selbst handelt, etwa ein Agent Vertragsänderungen vorbereitet, Bestellungen auslöst oder den nächsten Prozessschritt startet.
Hier verändert sich die Debatte. Wer KI handeln lässt, muss ihr vertrauen können. Dieses Vertrauen muss allerdings technisch begrenzt, organisatorisch abgesichert und gegen Missbrauch geschützt sowie im Betrieb überprüfbar sein. Dann genügt es nicht mehr, über Modellqualität, Prompts oder einzelne Use Cases zu sprechen. Unternehmen müssen sehr grundsätzlich klären, unter welchen Bedingungen Software in ihre Prozesse eingreifen darf: Welche Systeme darf ein Agent bedienen? Welche Aktion braucht menschliche Freigabe? Und wer kann hier wirklich noch nachvollziehen, was genau passiert?
Je tiefer KI in geschäftskritische Prozesse eingreift, desto wichtiger wird ein Betriebsmodell, das Rechte, Security, Eskalationen und Nachvollziehbarkeit von Beginn an mitdenkt. Das klingt nach technischer Detailarbeit. Tatsächlich entscheidet sich genau dort, ob KI im Unternehmen skalieren kann.
Ein KI-Agent im Kundenservice kann beispielsweise eingehende E-Mails lesen, Anhänge klassifizieren und ein Ticket vorbereiten. Das kann Mitarbeitende entlasten und Abläufe beschleunigen. Kritisch wird es, wenn derselbe Agent mehr Rechte bekommt, als er für seine Aufgabe braucht. Darf er Kundendaten ändern, Vertragsdetails anpassen oder eine Rückerstattung anstoßen? Solche Fragen entscheiden darüber, ob aus einem hilfreichen Tool ein kontrollierbarer Prozess wird.
Trust by Design heiĂźt: Kontrolle einbauen
Diese Verlässlichkeit, das Vertrauen in die Abläufe, muss von Anfang an in Architektur und Betrieb verankert werden. Deshalb folgt die Deutsche Telekom beim Aufbau ihrer Cloud- und KI-Infrastruktur dem Prinzip „Trust by Design“: Security, rechtssichere Rahmenbedingungen, transparente Architekturentscheidungen und klare Datenverantwortlichkeiten werden von Anfang an mitgedacht. „Trust by Design“ bedeutet aber nicht, einem System blind zu vertrauen. Im Gegenteil: Es heißt, Vertrauen in überprüfbare Kontrolle zu übersetzen.
Dazu gehören zum Beispiel digitale Identitäten für Agenten, rollenbasierte Zugriffsrechte, nachvollziehbare Protokolle und definierte Freigabepunkte – ebenso wie die Möglichkeit, Verhalten und ungewöhnliche Aktivitäten zu überwachen und bei Bedarf eingreifen zu können. Denn ohne Transparenz wird aus Automatisierung schnell eine neue Form von Schatten-IT.
Wie real das Risiko unkontrollierter KI-Nutzung bereits ist, zeigt ein Blick in die Unternehmen: Laut einer aktuellen Studie der Telekom1 nutzen 71 Prozent der Mitarbeitenden in Deutschland am Arbeitsplatz nicht freigegebene KI-Tools. Für IT- und Security-Verantwortliche spricht das nicht gegen KI, sondern für bessere Betriebsmodelle. Es geht nicht nur darum, Anwendungen freizugeben oder zu sperren. Vielmehr braucht es eine Umgebung, in der KI produktiv und kontrolliert arbeiten kann. Werden Cloud, Security, Datenzugriff, Governance und Betrieb getrennt geplant, entstehen, Sicherheits- und Verantwortungslücken an den Übergängen; werden sie gemeinsam gedacht, sinkt die Komplexität.
Der richtige Partner als Antwort auf die Vertrauensfrage
Gerade deshalb ist die richtige Wahl des Technologiepartners entscheidend. Unternehmen brauchen Betriebsmodelle, die unter realen Bedingungen funktionieren: mit klaren Verantwortlichkeiten, kontrollierbaren Umgebungen und Sicherheit, die von Beginn an mitgedacht ist. Gefragt sind Partner wie die Deutsche Telekom, die vertrauenswĂĽrdige IT-Architekturen nicht nur entwerfen, sondern auch in der operativen Tiefe beherrschen.
Nicht, weil Unternehmen zwingend alles aus einer Hand beziehen sollten, sondern weil KI im produktiven Betrieb genau dort anspruchsvoll wird, wo Cloud, Security, Konnektivität, Datenkontrolle und Betrieb ineinandergreifen müssen: an den Schnittstellen. Dort entscheidet sich, ob aus Pilotprojekten belastbare Unternehmensprozesse werden – oder ob Kontrolle, Zuständigkeit und Nachvollziehbarkeit verloren gehen. Erst wenn diese Schnittstellen beherrschbar sind, wird KI nicht nur leistungsfähig, sondern verantwortbar. Dann wird Vertrauen von einem Versprechen zu einer überprüfbaren Eigenschaft des Betriebs.
- -> Seite 37 ↩︎
kommentar field