McKinsey hat im „State of AI Trust 2026″ eine Zahl veröffentlicht, die man sich merken sollte: Nur 27 Prozent der Unternehmen weltweit vertrauen KI-Systemen bereits genug, um ihnen autonome Entscheidungen zu überlassen – obwohl die Technologie dafür längst bereitsteht. Der Grund liegt selten an der Technik. Er liegt an der Frage, wie man Agentic AI in bestehende Prozesse einbettet, ohne die Kontrolle zu verlieren.
Agentic AI ist kein Hype-Begriff, der in zwei Jahren wieder verschwunden ist. Im Kern beschreibt er KI-Systeme, die nicht auf einen einzigen Prompt antworten und fertig sind – sondern die eigenständig Ziele verfolgen, Zwischenschritte planen, Werkzeuge aufrufen und auf Ergebnisse reagieren. Das ist ein kategorialer Unterschied zu dem, was die meisten Unternehmen bisher unter „KI-Einsatz“ verstehen. Und dieser Unterschied hat konkrete Auswirkungen auf Architektur, Compliance und Risikomanagement.
Klassische Automatisierung folgt einem festen Skript. Eine RPA-Lösung (Robotic Process Automation) tut exakt das, was ihr Entwickler vorher kodiert hat – nicht mehr, nicht weniger. Tritt ein unerwarteter Zustand auf, bricht der Prozess ab oder liefert Unsinn. Agentic AI funktioniert anders: Ein KI-Agent bekommt ein Ziel, nicht eine Anleitung. Er entscheidet selbst, welche Schritte nötig sind, in welcher Reihenfolge, mit welchen Tools. Der Punkt ist: Autonome Workflows sind nicht „bessere Automatisierung“, sie sind eine andere Kategorie.
Konkret bedeutet das: Ein klassischer Bot befüllt ein Formular, weil er weiß, dass nach Feld A immer Feld B kommt. Ein KI-Agent hingegen analysiert zuerst, ob das Formular überhaupt das richtige Ziel ist – und sucht gegebenenfalls eine Alternative. Er kann eine API aufrufen, das Ergebnis interpretieren, eine E-Mail verfassen, auf die Antwort warten und dann den nächsten Schritt anpassen. Dieser Planungsmechanismus ist der entscheidende Unterschied. Interessant wird es, wenn man sich anschaut, wie Unternehmen diesen Unterschied in der Praxis noch regelmäßig unterschätzen.
Ehrlich gesagt ist das kein Vorwurf an die Unternehmen – es ist ein Kommunikationsproblem der Branche. Viele Anbieter verkaufen KI-Agenten als „intelligente Automatisierung“ und verwischen damit genau die Grenze, die für Compliance und Risikomanagement relevant ist. Ein System, das eigene Entscheidungen trifft, braucht andere Guardrails als ein deterministischer Workflow. Das ist keine philosophische Frage, sondern eine aus dem IT-Betrieb und der Rechtsabteilung.
Agentic AI in Unternehmen läuft selten als Einzelagent. Die praxisrelevante Architektur ist multi-agentisch: Ein übergeordneter „Orchestrator-Agent“ zerteilt eine komplexe Aufgabe in Teilaufgaben und delegiert sie an spezialisierte Unteragenten. Einer recherchiert Daten, ein anderer führt Berechnungen durch, ein dritter schreibt die Ausgabe in ein System of Record. Der Orchestrator konsolidiert die Ergebnisse und entscheidet, ob das Ziel erreicht wurde – oder ob ein weiterer Durchlauf nötig ist.
Diese Architektur bringt Leistungsfähigkeit, aber auch Komplexität. Jede Schnittstelle zwischen Agenten ist eine mögliche Fehlerquelle. Wenn Unteragent B ein falsches Zwischenergebnis liefert, muss der Orchestrator das erkennen – oder er baut auf einem schlechten Fundament weiter. Robuste Agentic-AI-Systeme implementieren deshalb sogenannte Validation Loops: Nach jedem Teilschritt wird das Ergebnis gegen definierte Qualitätskriterien geprüft, bevor es weitergereicht wird. Das kostet Rechenzeit, ist aber nicht optional.
Hinzu kommt das Thema Memory. KI-Agenten brauchen Kontext – über einzelne Aktionen hinaus. In mehrstufigen autonomen Workflows unterscheidet man zwischen Working Memory (aktuelle Session), Short-Term Memory (aktuelle Task-Kette) und Long-Term Memory (persistent gespeichertes Wissen über Prozesse, Präferenzen, vergangene Entscheidungen). Wer heute Agentic AI aufbaut, ohne die Memory-Architektur zu durchdenken, wird in sechs Monaten feststellen, dass seine Agenten dieselben Fehler immer wieder machen.
Deutschland hat in Sachen KI-Regulierung eine doppelte Schicht: den EU AI Act und das bestehende Datenschutzrecht nach DSGVO. Für Agentic AI ist das besonders relevant, weil autonome KI-Systeme in Hochrisiko-Anwendungen – etwa HR, Kreditvergabe, medizinische Diagnostik – explizite Anforderungen an Transparenz, Erklärbarkeit und menschliche Aufsicht erfüllen müssen. Der EU AI Act klassifiziert solche Systeme als „High-Risk AI“ und verlangt unter anderem Logging aller Entscheidungen, klare Zuständigkeiten und die Möglichkeit, menschlich einzugreifen. Das ist kein bürokratisches Hindernis – das ist, im Kern, gutes System-Design.
Technisch übersetzen sich diese Anforderungen in konkrete Guardrail-Mechanismen. Erstens: Input-Guardrails, die verhindern, dass Agenten mit sensiblen Daten operieren, für die keine Rechtsgrundlage besteht. Zweitens: Output-Guardrails, die Aktionen des Agenten vor der Ausführung prüfen – zum Beispiel, ob eine automatisch generierte E-Mail an Kunden bestimmte Compliance-Kriterien erfüllt. Drittens: Human-in-the-Loop-Checkpoints an definierten Stellen im Workflow, ab denen ein Mensch aktiv bestätigen muss. KI-Agenten, die autonom Bestellungen über einer bestimmten Wertgrenze auslösen oder Verträge einleiten können, gehören zwingend in diese Kategorie.
Ich finde, dass gerade der dritte Punkt in den meisten Implementierungen zu spät oder gar nicht diskutiert wird. Oft wird der Human-in-the-Loop als Einschränkung begriffen, die man minimieren möchte. Das ist falsch gedacht. Ein gut gesetzter Checkpoint erhöht tatsächlich die Akzeptanz im Unternehmen und reduziert gleichzeitig das regulatorische Risiko. Wer Agentic AI ohne klare Eskalationspfade deployed, sitzt auf einer Zeitbombe – und zwar einer, die irgendwann in einem Audit explodiert.
Nicht jeder Prozess ist ein guter Kandidat für autonome Workflows. Der erste Filter sollte immer sein: Wie hoch ist das Risiko einer falschen Entscheidung, und wie gut lässt sich das Ergebnis validieren? Prozesse mit hohem Volumen, klaren Erfolgskriterien und tolerierbarem Fehlerrisiko sind die natürlichen Einstiegspunkte.
Go-to-Market und Sales-Enablement: Highspot beschreibt in seiner Analyse zu Agentic AI im GTM-Bereich, wie KI-Agenten eigenständig Kundenprofile analysieren, relevante Inhalte selektieren und personalisierte Outreach-Sequenzen zusammenstellen – ohne dass ein Sales-Rep jeden Schritt manuell auslöst. Der Agent überwacht Signale (Website-Besuche, E-Mail-Öffnungen, CRM-Updates), bewertet deren Relevanz und entscheidet, wann und wie er den nächsten Kontaktpunkt auslöst. Das ist kein Autopilot für den gesamten Verkaufsprozess, aber eine erhebliche Entlastung bei repetitiven Qualifizierungsaufgaben.
Healthcare und Versicherungen: Sagility dokumentiert, wie Agentic AI im Healthcare-Bereich Payer-Engagement-Prozesse strukturiert – also die komplexen Abstimmungsprozesse zwischen Krankenkassen, Leistungserbringern und Patienten. Hier kombinieren mehrstufige KI-Systeme Dokumentenanalyse, Regelprüfung und Kommunikationsmanagement in einem autonomen Workflow. Die Einsparungen bei der manuellen Bearbeitung sind erheblich; gleichzeitig zeigt das Beispiel, wie kritisch Compliance-Guardrails in regulierten Branchen sind.
Interne Wissensarbeit und Research: Agentic AI kann eigenständig Marktdaten aggregieren, Quellen bewerten, Zusammenfassungen erstellen und Handlungsempfehlungen formulieren – ein Prozess, der in klassischer Ausführung Stunden kostet. Der Unterschied zu einem einfachen ChatGPT-Prompt ist, dass der Agent iterativ arbeitet: Er merkt, wenn eine Quelle unzureichend ist, sucht nach alternativen Daten und gibt erst dann ein Ergebnis aus, wenn die interne Qualitätsprüfung besteht.
McKinseys Report „State of AI Trust 2026″ zeigt klar: Das größte Hindernis bei der Adoption von Agentic AI ist kein technisches – es ist fehlendes Vertrauen. Und dieses Vertrauen entsteht nicht durch Marketing-Versprechen, sondern durch Nachvollziehbarkeit. Konkret: Jede Aktion eines KI-Agenten muss geloggt werden. Wer hat den Agenten beauftragt, was hat er getan, welche Tools hat er genutzt, welche Entscheidungen hat er getroffen, und welches Ergebnis hat er produziert? Dieser Audit-Trail ist für Compliance unverzichtbar – und er ist gleichzeitig das wichtigste Instrument, um das System zu verbessern.
Observability geht einen Schritt weiter als Logging. Es geht darum, das Verhalten des Systems in Echtzeit zu verstehen: Welche Agenten sind aktiv, wo stecken sie fest, wie lange dauern bestimmte Teilschritte, und wo treten Fehler gehäuft auf? Ohne diese Sichtbarkeit ist Agentic AI ein Black Box-Betrieb – und das ist keine Basis für ernsthafte Unternehmensanwendungen. Teams, die heute mit autonomen Workflows starten, sollten von Anfang an in Monitoring-Infrastruktur investieren. Das klingt banal, wird aber systematisch unterschätzt.
Ein praktischer Hinweis für die Implementierung: Setzen Sie Threshold-basierte Alerts, die anschlagen, wenn ein Agent eine ungewöhnlich lange Kette von Aktionen ausführt, ohne ein valides Zwischenergebnis zu erzeugen. Das ist oft ein Zeichen für eine sogenannte Agentic Loop – der Agent dreht sich im Kreis, weil er sein Ziel nicht klar genug formuliert bekommen hat oder weil externe Dienste nicht wie erwartet antworten. Dieses Muster zu erkennen und zu unterbrechen ist eine der wichtigsten operationellen Fähigkeiten, die Teams aufbauen müssen.
Wer Agentic AI im Unternehmen einführen will, sollte mit einem klar abgegrenzten Pilotprozess starten – einem, bei dem das Risiko überschaubar und die Erfolgsmessung eindeutig ist. Der typische Fehler ist, zu früh zu groß zu denken: einen vollständig autonomen Workflow von der Kundenanfrage bis zur Rechnungsstellung deployen zu wollen, bevor man verstanden hat, wie die Agenten in der eigenen Infrastruktur tatsächlich verhalten. KI-Agenten, getestet auf Benchmarks, benehmen sich in produktiven Umgebungen mit realen Daten und Systemgrenzen oft anders als erwartet. Das ist keine Kritik an der Technologie – das ist Physik.
Drei Prinzipien, die sich in der Praxis bewähren: Erstens, definieren Sie das Ziel des Agenten in messbaren Kriterien, nicht in vagen Beschreibungen. Zweitens, beginnen Sie mit einem Read-Only-Modus: Der Agent analysiert und empfiehlt, schreibt aber noch nichts in Systeme. Das schafft Vertrauen im Team und liefert wertvolle Daten über die Qualität der Ausgaben. Drittens, führen Sie regelmäßige Red-Team-Exercises durch – lassen Sie gezielt versuchen, den Agenten in unerwünschtes Verhalten zu treiben, und bauen Sie entsprechende Schutzmechanismen.
Was bleibt, ist eine nüchterne Einschätzung: Agentic AI ist tatsächlich ein Reifungsprozess, kein Schalter, den man umlegt. Die Frage für Unternehmen in Deutschland lautet nicht, ob mehrstufige KI-Systeme in drei Jahren Standardwerkzeuge sein werden – das werden sie. Die Frage ist, wer bis dahin die Lernkurve hinter sich hat und wer sie dann erst beginnt. Wann starten Sie mit dem ersten abgegrenzten Piloten?
