Axon Ivy Blog: Trends, Stories und Hintergründe zur Digitalisierung

Wie viel Kontrolle brauchen KI-Agenten?

Geschrieben von Marcel Prügel | 09. November 2026
KI-Agenten können Unternehmensprozesse flexibler machen. Mit wachsender Autonomie stellen sich jedoch auch Fragen nach Governance, Transparenz und Kontrolle. Bei der Entwicklung von Axon Ivy 14 haben wir gelernt, dass es nicht darum geht, sich zwischen fest modellierten Prozessen und KI-Agenten zu entscheiden. Entscheidend ist, beides sinnvoll zu verbinden: Agenten können kontextabhängig entscheiden, während kritische Prozessschritte kontrolliert, nachvollziehbar und vorhersehbar bleiben.

Vor gut 18 Monaten, als wir mit der Planung von Axon Ivy 14 begannen, lagen in fast jedem Kundengespräch zwei sehr unterschiedliche Stimmungen gleichzeitig in der Luft.

Da war die Erwartung, dass KI die Art, wie Unternehmenssoftware entsteht, in kürzester Zeit grundlegend verändern könnte. Manche gingen sogar so weit zu sagen, dass Plattformen bald überflüssig werden, weil sich jede Anwendung einfach per Prompt erzeugen lässt.

Gleichzeitig stand eine sehr viel nüchternere Frage im Raum. Für mich ist sie bis heute die wichtigere:

Wo genau schafft KI echten Mehrwert und wie viel von dem, was wir heute sehen, ist noch Vision statt Realität? 

Wir haben uns diese Frage auch intern gestellt und viele Stunden darüber diskutiert.

Das Ergebnis ist die umfassendste Modernisierung unserer Plattform seit Version 4. Vor allem aber haben wir dabei einiges gelernt, das aus meiner Sicht für jede IT-Organisation relevant ist, die heute entscheidet, auf welchem Fundament sie ihre Geschäftsprozesse in den kommenden Jahren betreiben möchte.

KI ist kein feature mehr, sondern Teil des Fundaments

Zu Beginn haben wir KI vor allem als Integration betrachtet, also als eine weitere Fähigkeit, die sich an bestehende Abläufe anbinden lässt.

Je tiefer wir in das Thema eingestiegen sind, desto klarer wurde, dass diese Sicht zu kurz greift.

KI verändert zwei Dinge gleichzeitig: wie Anwendungen entwickelt werden und wie Prozesse zur Laufzeit orchestriert werden.

Wer beides ernst nimmt, kann KI nicht einfach als zusätzliches Feature behandeln. Sie muss Teil der Plattformarchitektur werden.

Für CIOs hat das eine unmittelbare Konsequenz. Wer sich heute für eine Plattform zur Prozessorchestrierung entscheidet, entscheidet damit auch, wie viel Kontrolle das eigene Unternehmen darüber behält, wie KI innerhalb seiner Prozesse arbeitet.

Warum KI Prozessplattformen wichtiger macht, nicht überflüssig

Die These, dass KI Plattformen überflüssig machen wird, hält einem Praxistest nicht besonders gut stand.

Bittet man einen Coding-Assistenten auf der grünen Wiese, einen Onboarding-Prozess für neue Mitarbeitende zu entwickeln, beginnt er bei null. Bevor er sich überhaupt mit dem eigentlichen Geschäftsprozess beschäftigen kann, muss er Hosting, Workflow-Logik, Aufgabenverwaltung, Berechtigungen, Datenhaltung und Monitoring konzipieren.

Kurz gesagt: Er muss zunächst die Infrastruktur schaffen, auf der der eigentliche Prozess später läuft.

Das kostet Zeit und Rechenleistung. Aus IT-Sicht wiegt aber etwas anderes noch schwerer.

Jede auf diese Weise entwickelte Anwendung wird zu einer Einzellösung mit eigener Architektur, eigener Sicherheitslogik und eigenen Anforderungen an den Betrieb. Was für eine einzelne Anwendung beeindruckend schnell aussieht, kann im großen Maßstab zu einer neuen Form von Schatten-IT führen, nur deutlich schneller als bisher.

Anders sieht es aus, wenn derselbe Assistent auf einer Plattform arbeitet, die Rollen, Formulare, Aufgabenverwaltung, Monitoring und ein Anwenderportal bereits bereitstellt.

Dann kann er sich auf das konzentrieren, worum es eigentlich geht: den Geschäftsprozess.

Die Entwicklung wird schneller, kostengünstiger und vor allem berechenbarer, weil alles, was der Assistent erstellt, denselben grundlegenden Standards folgt.

Deshalb haben wir unsere Entwicklungsumgebung vollständig in Visual Studio Code integriert und die Bausteine der Plattform für KI-Coding-Assistenten wie GitHub Copilot und Claude Code zugänglich gemacht. Die KI arbeitet damit mit Axon-Ivy-spezifischen Schemas und Plattformfunktionen, statt die notwendige Workflow-Infrastruktur jedes Mal neu aufzubauen.

Diese Entscheidung bedeutete gleichzeitig, uns von einer Entwicklungsumgebung zu verabschieden, die viele Menschen über Jahre genutzt hatten.

Solche Entscheidungen können schmerzhaft sein. Ich bin jedoch überzeugt, dass eine Plattform nur dann zukunftsfähig wird, wenn man sich auf wenige wirklich relevante Themen konzentriert, statt überall ein wenig zu optimieren.

Wie viel Autonomie sollte ein KI-Agent haben?

Keine andere Frage hat uns intern so lange beschäftigt.

Axon Ivy ist eine sehr offene Plattform. Entwickler können damit sehr unterschiedliche und komplexe Anforderungen umsetzen. Gleichzeitig möchte kein Unternehmen einem KI-Agenten erlauben, vollständig frei zu agieren.

Wer große Orchestrierungsprojekte verantwortet, kennt dieses Spannungsfeld.

Fest modellierte Prozesse sind zuverlässig, testbar und auditierbar. In umfangreichen Projekten können sie jedoch so komplex werden, dass wir intern manchmal von „Spaghetti-BPMN“ gesprochen haben. Jede Ausnahme erzeugt einen weiteren möglichen Pfad durch das Prozessmodell.

KI-Agenten arbeiten anders.

Sie erhalten eine Aufgabe oder ein Ziel und bestimmen selbst, wie sie vorgehen. Gerade mit Ausnahmen können sie erstaunlich gut umgehen. Ihre einzelnen Entscheidungen sind allerdings nicht immer vorhersehbar.

Genau an diesem Punkt dürften aktuell viele Agentenprojekte ins Stocken geraten. Nicht unbedingt, weil die Modelle zu wenig leisten, sondern weil Vertrauen, Transparenz und Governance fehlen.

Unsere Antwort darauf ist Smart Workflow. Dahinter steht eine einfache Idee: KI-Agenten und deterministische Prozesse müssen keine Gegensätze sein.

Der Agent übernimmt die Orchestrierung. Er analysiert einen Vorgang, stellt bei Bedarf Rückfragen und entscheidet, welcher Schritt als Nächstes sinnvoll ist.

Die Werkzeuge, die ihm dafür zur Verfügung stehen, sind jedoch klar definierte Prozessbausteine.

Ruft der Agent beispielsweise einen Freigabeprozess auf, für den ein Vier-Augen-Prinzip vorgeschrieben ist, läuft dieser Prozess exakt so ab, wie er modelliert wurde. Innerhalb dieses kontrollierten Teilprozesses gibt es keinen Interpretationsspielraum.

Das ist das Grundprinzip von Smart Workflow: Deterministische BPMN-Prozesse bleiben dort verbindlich, wo Kontrolle erforderlich ist. Der Agent orchestriert sie abhängig vom jeweiligen Kontext.

Wie sieht das konkret aus?

Wir haben diesen Ansatz mit unserem eigenen Supportprozess getestet.

Fehlt bei einem Ticket beispielsweise die Versionsangabe, fragt das System diese automatisch beim Kunden an, ohne dass zunächst ein Mensch das Ticket prüfen muss.

Eine Lizenzfrage, die nicht in den technischen Support gehört, wird direkt an das Account Management weitergeleitet, statt in der falschen Warteschlange liegen zu bleiben.

Und ein gut dokumentierter Fehler kann die üblichen Supportstufen überspringen und direkt beim zuständigen Entwicklungsteam landen.

Die fachliche Logik dahinter hat sich nicht geändert. Der Unterschied besteht darin, dass der Prozess nicht mehr jede denkbare Abzweigung im Voraus kennen und explizit modellieren muss.

Wie lassen sich KI-Agenten in Unternehmensprozessen kontrollieren?

Damit dieser Ansatz in Unternehmen funktioniert, braucht Governance aus meiner Sicht drei Ebenen. Deshalb haben wir alle drei direkt in der Plattform verankert.

1. Governance by Design

Alles, was zwingend einer bestimmten Reihenfolge oder festgelegten Regeln folgen muss, wird als Prozess modelliert.

Diese Schritte kann der Agent nicht umgehen, unabhängig davon, wie er den restlichen Vorgang orchestriert.

2. Guardrails und menschliches Eingreifen

Leitplanken müssen greifen, bevor etwas schiefgeht.

Ein Beispiel ist der Versuch, über ein Support-Ticket Anweisungen in das Modell einzuschleusen. Ein anderes wäre ein Agent, der in eine Schleife gerät und unbemerkt Budget verbraucht.

In solchen Situationen stoppt der automatisierte Prozess und ein Mensch übernimmt.

Axon Ivy 14 unterstützt diesen Human-in-the-Loop-Ansatz, indem Laufzeit-Guardrails mit kontrollierten Prozessgrenzen kombiniert werden. Im Release-Webinar zeigen wir unter anderem ein Prompt-Injection-Szenario, bei dem der automatisierte Ablauf angehalten und der Vorgang zur manuellen Prüfung übergeben wird.

3. Monitoring und Nachvollziehbarkeit

Ebenso wichtig ist die Frage, was nach einer Entscheidung passiert: Lässt sich im Nachhinein nachvollziehen, wie sie zustande gekommen ist?

Für jeden Vorgang sollte erkennbar sein, welche Daten an welches Modell gesendet wurden, welche Tools ein Agent aufgerufen hat und welche Kosten dabei entstanden sind.

Spätestens wenn eine Entscheidung gegenüber der Revision, dem Datenschutz oder einem Kunden erklärt werden muss, ist diese Nachvollziehbarkeit keine Komfortfunktion mehr. Sie wird zur Voraussetzung für den produktiven Einsatz von KI.

Die AI-Governance-Funktionen von Axon Ivy schaffen deshalb Transparenz über Modellnutzung, Nachrichten, Tool-Aufrufe, Token-Verbrauch, Antwortzeiten und weitere Ausführungsdaten.

Warum Unternehmen die Kontrolle über ihre KI-Modelle behalten sollten

Eine Entscheidung haben wir sehr bewusst getroffen: Axon Ivy bringt kein eigenes Sprachmodell mit.

Unternehmen binden stattdessen die Modelle an, die sie bereits einsetzen oder einsetzen dürfen. Das können Modelle großer Cloud-Anbieter sein, aber auch lokal betriebene Modelle in der eigenen Infrastruktur.

Das ist mehr als ein technisches Detail. Es ist eine strategische Frage.

Der Markt für Sprachmodelle entwickelt sich zu schnell, als dass Unternehmen sich heute für mehrere Jahre an ein bestimmtes Modell binden sollten. Gleichzeitig sollten bestehende Verträge, Datenschutzanforderungen und Sicherheitsrichtlinien weiterhin gelten, statt durch die Einführung einer neuen Plattform ausgehebelt zu werden.

Wir bezeichnen diesen Ansatz als Bring Your Own Model. Die Plattform unterstützt unterschiedliche cloudbasierte und lokal betriebene LLMs.

Dazu gehört allerdings auch Ehrlichkeit über den aktuellen Reifegrad.

Ein lokal betriebenes Modell kann für viele Klassifikationsaufgaben vollkommen ausreichen. Schließlich müssen Entscheidungen in Geschäftsprozessen in den meisten Fällen nicht innerhalb von Millisekunden fallen.

Wer große Mengen an Bildern oder Daten verarbeitet oder KI für die Anwendungsentwicklung einsetzen möchte, benötigt dagegen leistungsfähigere Modelle.

Und unabhängig vom eingesetzten Modell gilt: Was ein KI-Assistent entwickelt, muss weiterhin von einem Menschen geprüft werden.

Das betrifft nicht nur Axon Ivy. Es gilt für jede Plattform. Wer etwas anderes verspricht, verkauft eher die Vision als die betriebliche Realität.

Sechs Fragen für die Auswahl einer Plattform für KI-gestützte Prozessorchestrierung

Wenn ich heute eine Prozessplattform bewerten würde, würde ich unabhängig vom Anbieter sechs Fragen stellen:

  1. Arbeitet die KI mit standardisierten Plattformbausteinen oder wird jede KI-generierte Anwendung zu einer individuellen Einzellösung?
  2. Lässt sich festlegen, welche Prozessschritte ein KI-Agent zwingend einhalten muss? Und werden diese Anforderungen technisch durchgesetzt oder lediglich in einem Prompt beschrieben?
  3. Gibt es Guardrails, die einen Prozess stoppen und die Kontrolle an einen Menschen übergeben können?
  4. Lassen sich Entscheidungen eines Agenten im Nachhinein nachvollziehen, einschließlich der verwendeten Daten, des Modells und der damit verbundenen Kosten?
  5. Behält das Unternehmen die Kontrolle darüber, welches Sprachmodell eingesetzt wird, einschließlich der Möglichkeit, dieses später zu wechseln?
  6. Verbindet die Plattform bestehende Systeme oder setzt ihre Einführung voraus, dass diese ersetzt werden?

Diese Fragen gehen über die reine Fähigkeit hinaus, einen KI-Agenten technisch auszuführen. Sie führen zu der schwierigeren Frage:

Können KI-Agenten in Unternehmensprozessen eingesetzt werden, ohne die dafür notwendige Governance, Interoperabilität und Kontrolle aufzugeben?

Axon Ivy 14: ein Fundament für KI-gestützte Prozessorchestrierung

Für uns ist Version 14 deshalb weniger ein klassisches Feature-Release. Sie schafft ein Fundament für die zukünftige Prozessorchestrierung im Unternehmen.

Axon Ivy verbindet Menschen, bestehende Systeme und KI-Agenten innerhalb eines durchgängigen Prozesses. Gleichzeitig behält die IT den Überblick darüber, wer oder was eine Entscheidung getroffen hat und wie sie zustande gekommen ist.

Ich bin überzeugt, dass in den nächsten Jahren nicht unbedingt die Unternehmen am erfolgreichsten mit KI-Agenten sein werden, die möglichst schnell möglichst viele davon einsetzen.

Erfolgreich werden diejenigen sein, die lernen, Agenten Verantwortung zu übertragen, ohne die Kontrolle abzugeben.

Wie das konkret funktioniert, haben Thomas Zehetner und ich im Webinar zu Axon Ivy 14 gezeigt, von der KI-gestützten Anwendungsentwicklung bis zur Orchestrierung eines Lieferanten-Onboardings.

Axon Ivy Version 14 Webinar ansehen