Ein Kundenauftrag ist im ERP bereits freigegeben, im Lagerverwaltungssystem steht er auf „in Prüfung“. Offenbar ist die Qualitätsprüfung doch noch nicht abgeschlossen. Für die Mitarbeiterinnen und Mitarbeiter in den verschiedenen Abteilungen ist das zwar ärgerlich, aber kein ungewöhnlicher Fall. Solche Abweichungen zwischen den Systemen gleichen sie im Alltag mit Erfahrung und Betriebswissen aus. Für einen KI-Agenten können solche Unstimmigkeiten jedoch zum Problem werden. Wenn derselbe Auftrag je nach System anders bewertet wird, steigt das Risiko von Fehlentscheidungen.
Führen Unternehmen KI-Agenten ein, sprechen Verantwortliche erst einmal nur über Modelle, APIs und Anwendungsfälle, die vorher in den einzelnen Abteilungen gesammelt wurden. Damit der Einsatz aber gelingt, braucht es eine gemeinsame, abgestimmte Datengrundlage, auf die alle Systeme zugreifen können und deren Informationen sie konsistent interpretieren können.
Wenn Systeme Begriffe unterschiedlich definieren, widersprüchliche Zustände abbilden oder mit abweichenden Datenständen arbeiten, fehlt dem KI-Agenten eine verlässliche Entscheidungsgrundlage. Er kann dadurch falsche Entscheidungen treffen und fehlerhafte Aktionen auslösen. Selbst das leistungsfähigste Modell kann diesen grundlegenden Mangel nicht kompensieren.
Schnittstellen sind nicht dasselbe wie Interoperabilität
In vielen Unternehmen mit gewachsener Systemlandschaft gilt eine IT-Landschaft als integriert, wenn Daten zwischen verschiedenen Anwendungen fließen. Die jeweiligen Schnittstellen verbinden die Systeme und übertragen die Informationen, damit die Prozesse weiterlaufen können. Das sind alles wichtige Schritte, aber in der Realität entsteht dadurch noch keine fachliche Eindeutigkeit.
Diese Eindeutigkeit ist jedoch die zentrale Voraussetzung für den nächsten Schritt, den viele mittelständische Unternehmen jetzt gehen wollen: Der Einsatz von KI-Agenten. Prozesse sollen damit in größeren Teilen automatisiert werden. Unternehmensverantwortliche und Führungskräfte unterschätzen jedoch, dass KI-Agenten nicht über das Kontextwissen verfügen, mit dem Mitarbeitende im Alltag Widersprüche zwischen den verschiedenen Systemen ausgleichen.
Dieses Wissen ist im Regelfall weder in Betriebshandbüchern noch in Übergaben niedergeschrieben. KI-Agenten sehen nur die aktuell verfügbaren Daten und handeln auf dieser Grundlage. Entscheidend ist eine operative Interoperabilität und bedeutet, dass Systeme dieselben fachlichen Zustände und Prozessschritte aufeinander abgestimmt abbilden.
Datensilos sind ein Steuerungsrisiko für KI-Agenten
Datensilos sind vielen Unternehmen bereits aus klassischen Analyseprozessen bekannt. Sie verursachen zusätzlichen Aufwand, aber lassen sich häufig durch die menschliche Prüfung ausloten. Ein Analyst erkennt, wenn die Zahlen plötzlich nicht zusammenpassen, er fragt nach und korrigiert die Auswertung. Ein autonom handelnder Agent kann solche Widersprüche nicht eigenständig einordnen. Widersprechen sich mehrere Systeme, wird er dennoch eine Entscheidung treffen oder eine Folgeaktion anstoßen. Genau hier entsteht das Risiko von Fehlsteuerungen.
Was bedeutet operative Interoperabilität in der Praxis konkret?
Operative Interoperabilität lässt sich am besten an einem konkreten Prozess prüfen, etwa an einer Auftragsfreigabe oder Lieferauslösung. Unternehmen sollten festhalten, welche Statusangaben die beteiligten Systeme verwenden, was diese fachlich bedeuten und wer sie ändern darf. So wird sichtbar, ob „freigegeben“ überall denselben Zustand beschreibt.
Bei widersprüchlichen Angaben muss außerdem feststehen, welches System für den jeweiligen Prozess maßgeblich ist. Ein Agent darf nicht einfach den zuletzt eingetroffenen Datenstand verwenden. Auch der Zeitpunkt einer Information gehört zum Kontext: Ein Status sollte erkennen lassen, wann er gesetzt wurde und wie aktuell er ist.
Vor dem autonomen Betrieb kann der Agent zunächst nur Entscheidungen vorschlagen. Die Ergebnisse werden mit den Entscheidungen der Mitarbeitenden verglichen. Jede Aktion sollte sich später anhand des verwendeten Datenstands, der angewendeten Regel und der ausgelösten Aktion rekonstruieren lassen. Für kritische Vorgänge braucht es zusätzlich klar begrenzte Berechtigungen oder eine menschliche Freigabe.
Ein guter Praxistest sind bewusst widersprüchliche Fälle: Das ERP gibt einen Auftrag frei, während die Qualitätsprüfung noch läuft. Oder ein Bestand erscheint verfügbar, ist aber weiterhin gesperrt. Wenn sich später nicht nachvollziehen lässt, warum der Agent gehandelt hat, fehlt noch die Grundlage für einen autonomen Betrieb.
Eine Checkliste für Unternehmen
- Einen konkreten Prozess auswählen, in dem ein KI-Agent später Entscheidungen treffen oder Aktionen auslösen soll.
- Für jeden relevanten Status festhalten, was er fachlich bedeutet, wann er gesetzt wird und welches System ihn ändern darf.
- Bei widersprüchlichen Angaben festlegen, welche Datenquelle für den jeweiligen Prozess maßgeblich ist.
- Den Agenten zunächst im Beobachtungsmodus testen und seine Vorschläge mit den Entscheidungen der Mitarbeitenden vergleichen.
- Jede Entscheidung mit Datenstand, Zeitpunkt und angewendeter Regel protokollieren, damit sie später nachvollziehbar bleibt.
Operative Interoperabilität zeigt sich im Testfall
Ob operative Interoperabilität tatsächlich erreicht ist, zeigt sich selten in der Theorie, sondern im laufenden Betrieb. Zeigen die beteiligten Systeme denselben Auftrag unterschiedlich an, entsteht ein Konflikt. Ein Konflikt, den ein KI-Agent eigenständig zu lösen versucht, unter Verwendung der ihm zur Verfügung stehenden Daten.
Führt das zu Fehlentscheidungen, die sich im Nachhinein nicht mehr nachvollziehen lassen, ist gesichert, dass im Unternehmen noch die Grundlage für einen autonomen Einsatz fehlt.
