Bei generativer KI ist ein wesentlicher Teil der laufenden Kosten unmittelbar von der tatsächlichen Nutzung abhängig. Jede Interaktion mit einem Sprachmodell erfordert die Verarbeitung von Informationen – von Prompts und Systemanweisungen über bereitgestellte Dokumente bis hin zu den generierten Antworten. Je umfangreicher der Kontext einer Anfrage ist, desto höher fällt in der Regel auch der Token-Verbrauch aus, auch wenn nur ein Teil der bereitgestellten Informationen für die eigentliche Aufgabe relevant ist.
Mit Agentic AI kann dieser Verbrauch zusätzlich steigen. Eine einzelne Anfrage kann mehrere Verarbeitungsschritte, wiederholte Informationsabrufe, Tool-Aufrufe und Interaktionen zwischen Agenten auslösen. Was bei einzelnen Anfragen kaum ins Gewicht fällt, kann sich bei Tausenden Interaktionen zu einem erheblichen Kostenfaktor summieren.
Damit gewinnt Context Engineering auch aus wirtschaftlicher Perspektive an Bedeutung. Es erweitert den Blick über das Sprachmodell hinaus und betrachtet den gesamten Kontext, den eine KI-Anwendung für die Bearbeitung einer Aufgabe benötigt. Vier Aspekte sind dabei besonders relevant.
1. Nicht nur das Modell bestimmt die Kosten
Bei der Betrachtung von KI-Kosten steht häufig zunächst das eingesetzte Sprachmodell im Fokus. Modelle unterscheiden sich hinsichtlich Leistungsfähigkeit, Einsatzmöglichkeiten und Preisstruktur. Die Entscheidung für ein kostengünstigeres Modell kann die Inferenzkosten reduzieren. Die Modellwahl beeinflusst jedoch in erster Linie, zu welchen Kosten Informationen verarbeitet werden und nicht, wie viele Informationen überhaupt verarbeitet werden müssen.
Damit entsteht ein wesentlicher Teil des Optimierungspotenzials bereits vor der Verarbeitung durch das Sprachmodell. Welche Informationen aus den vorhandenen Unternehmensdaten für eine konkrete Aufgabe benötigt werden und als Kontext einfließen, hat direkten Einfluss auf die Antwortgenerierung. Werden Inhalte ungefiltert an das Sprachmodell weitergeleitet müssen diese vom Sprachmodell verarbeitet werden.
Um einem unnötig hohen Tokenverbrauch entgegenzuwirken, sollte bereits vor der Verarbeitung durch ein LLM gezielt bestimmt werden, welche Informationen tatsächlich relevant sind und in den Kontext einfließen. Entscheidend ist dabei das Retrieval: Es bestimmt, welche Inhalte aus dem vorhandenen Unternehmenswissen ausgewählt und dem Sprachmodell als Kontext bereitgestellt werden. Je präziser und relevanter diese Informationen sind, desto weniger unnötiger Kontext muss verarbeitet werden und desto effizienter lässt sich der Tokenverbrauch steuern.
2. Relevanz statt maximalem Kontext
Semantische Retrieval-Verfahren ermöglichen es, relevante Inhalte gezielt aus dem verteilten Unternehmenswissen zu identifizieren. Statt vollständige Dokumente oder umfangreiche Datenmengen an ein Sprachmodell zu übergeben, gelangen so nur die für die jeweilige Aufgabe relevanten Passagen in den Kontext.
Dabei geht es nicht darum, den Kontext grundsätzlich zu minimieren. Entscheidend ist vielmehr, die richtige Menge an relevanten Informationen bereitzustellen. Zu wenig Kontext kann dazu führen, dass wichtige Informationen fehlen. Zu viel Kontext kann dagegen redundante, veraltete oder irrelevante Inhalte enthalten, die verarbeitet werden müssen, ohne einen zusätzlichen Nutzen für das Ergebnis zu schaffen.
Information Retrieval wird damit zu einem wesentlichen Bestandteil des Context Engineering. Es beeinflusst, welche Informationen aus dem verfügbaren Unternehmenswissen tatsächlich in den Kontext einfließen, und trägt dazu bei, Verarbeitungsaufwand und Qualität in ein sinnvolles Verhältnis zu bringen.
3. Relevanter Kontext braucht klare Zugriffsrechte
Bei der Zusammenstellung des richtigen Kontexts zählt jedoch nicht allein die inhaltliche Relevanz. Ebenso entscheidend ist, auf welche Informationen ein Nutzer oder KI-Agent tatsächlich zugreifen darf.
Berechtigungen sollten deshalb bereits beim Zugriff auf das Unternehmenswissen und bei der Zusammenstellung des Kontexts berücksichtigt werden. Bestehende Zugriffsrechte aus den jeweiligen Quellsystemen müssen auch bei der Bereitstellung des Kontexts berücksichtigt werden, sodass nur Inhalte einfließen, die der jeweilige Nutzer oder Agent tatsächlich verwenden darf.
Gleichzeitig sollte nachvollziehbar bleiben, aus welchen Quellen die verwendeten Informationen stammen. Gerade bei geschäftskritischen Anwendungen ist nicht nur relevant, welche Antwort ein KI-System liefert, sondern auch, auf welcher Informationsgrundlage sie entstanden ist.
Context Engineering verbindet damit Relevanz mit Governance. Der benötigte Kontext muss nicht nur inhaltlich passen, sondern auch kontrolliert, berechtigungsbasiert und nachvollziehbar bereitgestellt werden.
4 . Context Engineering unternehmensweit skalieren
Mit der zunehmenden Zahl an KI-Anwendungen, Assistenten und Agenten stellt sich die Frage, wie sich Context Engineering unternehmensweit skalieren lässt. Denn das benötigte Wissen liegt meist verteilt in Dokumentenmanagement- und Collaboration-Plattformen, CRM- und ERP-Systemen, Datenbanken, E-Mails, technischen Dokumentationen oder Fachanwendungen.
Werden diese Quellen für jeden KI-Anwendungsfall separat angebunden und eigene Retrieval-Logiken entwickelt, entstehen parallele Strukturen und zusätzlicher Aufwand für Integration, Governance und Betrieb. Eine Enterprise-Intelligence-Lösung kann stattdessen einen zentralen Einstiegspunkt in das verteilte Unternehmenswissen schaffen. Über Konnektoren lassen sich Informationen aus sämtlichen Unternehmensquellen erschließen, indexieren und systemübergreifend verfügbar machen.
Das auf diese Weise zugänglich gemachte Unternehmenswissen lässt sich für unterschiedliche KI-Anwendungen nutzen. Sprachmodelle, Assistenten und Agenten können den für ihre jeweilige Aufgabe benötigten Kontext erhalten, ohne dass die zugrunde liegenden Informationsquellen für jeden Anwendungsfall erneut separat angebunden werden müssen.
Gerade mit Agentic AI gewinnt dieser zentrale Zugang an Bedeutung. Wenn Agenten eigenständig Informationen abrufen, Tools nutzen und mehrstufige Aufgaben bearbeiten, benötigen sie einen kontrollierten und kontextbezogenen Zugang zu Unternehmenswissen. Enterprise Intelligence stellt die Verbindung zwischen den vorhandenen Informationsquellen und einer wachsenden Zahl von KI-Anwendungen her und schafft die Voraussetzung, Context Engineering konsistent über unterschiedliche Modelle, Assistenten und Agenten hinweg umzusetzen.
Fazit: vom Token-Verbrauch zum geschäftlichen Nutzen
Die Wirtschaftlichkeit von Enterprise AI entscheidet sich nicht allein bei der Wahl des Sprachmodells. Ebenso relevant ist, welche Informationen aus dem Unternehmenswissen tatsächlich verarbeitet werden und wie gezielt sie für die jeweilige Aufgabe bereitgestellt werden.
Context Engineering verbindet damit Kosten, Qualität und Governance. Entscheidend ist nicht, möglichst wenig Kontext zu verarbeiten, sondern die verfügbaren KI-Ressourcen gezielt für relevante und zulässige Informationen einzusetzen. Langfristig zählt deshalb nicht allein, zu welchen Kosten Informationen verarbeitet werden, sondern welcher geschäftliche Nutzen mit den eingesetzten Ressourcen erzielt wird.
