Warum interne Unternehmens-Chatbots scheitern und wie Sie Generative AI im Unternehmen wirksam einsetzen
15. September 2025
Die häufigste Ernüchterung in Unternehmen sieht so aus: Man begeistert sich für Generative AI mit ChatGPT oder Microsoft Copilot, liest einen Artikel darüber, wie KI „Ihr Unternehmen irgendwie besser macht“, sucht dann weitere Anwendungsfälle, denen man einen Chatbot überstülpen kann, und ist am Ende enttäuscht, wenn die Ergebnisse nicht überzeugen. Dann beginnt die Rechtfertigungsphase. Ich höre oft Sätze wie „Das Modell ist nicht gut genug“ oder „Wir müssen die Leute schulen, damit sie bessere Prompts schreiben.“
In 90 % der Fälle sind das nicht die richtigen Schlussfolgerungen. Sie entstehen, weil wir in Chatbots denken. Ich habe über drei Dutzend Generative-AI-Anwendungen entwickelt, für Organisationen von drei Personen bis zu globalen Konzernen mit über dreihunderttausend Mitarbeitenden, und dieses Muster habe ich überall gesehen.
Tausende Unternehmen erzählen Ihnen, Sie bräuchten „irgendeine Chatbot-Lösung“, weil das alle machen. OpenAI mit ChatGPT, Microsoft Copilot, Google mit Gemini und all die anderen Anbieter von Chatbots leisten großartige Arbeit dabei, die ersten Hürden für einen Chatbot abzubauen. Aber ich sage Ihnen: 75 % der wirklich schmerzhaften Probleme, die Sie mit Generative AI lösen können, profitieren nicht davon, ein Chatbot zu sein.
Zu oft sehe ich Manager, Programmverantwortliche oder andere Entscheider, die mit dieser Idee starten: "Wir haben hier ein KI-Produkt, mit dem wir Chatbots bauen können. Suchen wir möglichst viele Stellen, an denen wir es einsetzen." Meiner Erfahrung nach ist das der falsche Ansatz: Sie starten bei einer Lösung und versuchen, ein bestehendes Problem hineinzupressen. Richtig wäre, ein Problem zu betrachten, es zu analysieren und eine passende KI-Lösung zu finden. Ein Chatbot kann für manche Anwendungsfälle eine gute Oberfläche sein. Jedes Problem in einen Chatbot zu zwingen, ist jedoch problematisch.
Eine Lösung einem Problem aufzwingen vs. beim Problem beginnen und eine Lösung finden. (c) Marcel Müller 2024
In diesem Artikel teile ich Erkenntnisse und die Methode, die ich aus der praktischen Arbeit an unzähligen Anwendungen entwickelt habe. Diese Anwendungen laufen heute produktiv und bedienen Tausende Nutzer. Sie haben mein Denken darüber geprägt, wie man wirksame Generative-AI-Lösungen baut, statt blind einem Trend zu folgen und enttäuscht zu sein, wenn es nicht funktioniert.
Ich sage Ihnen, Sie sollen nicht bei Chatbots anfangen. Wo also dann? Die Antwort ist einfach: bei Geschäftsprozessen.
Alles, was in einem Unternehmen passiert, ist ein Geschäftsprozess. Ein Geschäftsprozess verbindet verschiedene Aktivitäten („Arbeitseinheiten“), Ereignisse (zum Beispiel Fehler) und Gateways (zum Beispiel Entscheidungen) zu einem Workflow [1]. Es gibt Werkzeuge, um Geschäftsprozesse in bekannten Diagrammformen zu modellieren [2], und eine ganze Forschungsdisziplin rund um die Analyse und Verbesserung von Geschäftsprozessen [3][4][5]. Business Process Management ist ein gutes Werkzeug, weil es nicht theoretisch ist, sondern überall in Unternehmen angewendet wird, auch wenn man es dort nicht so nennt.
Ein Beispiel. Stellen Sie sich vor, Ihr Unternehmen erstellt Immobilienbewertungen für eine Bank. Bevor Banken Hypotheken vergeben, lassen sie Gutachter schätzen, wie viel das Objekt wert ist. So kennen sie den tatsächlichen Wert, falls die Hypothek nicht zurückgezahlt werden kann.
Ein Immobiliengutachten zu erstellen ist ein großer Geschäftsprozess, den wir in Teilprozesse zerlegen können. Üblicherweise fahren Gutachter zum Haus, machen Fotos und schreiben dann ein 20 bis 30 Seiten langes Gutachten. Verfallen wir für einen Moment nicht in die Gewohnheit „Oh, ein Gutachten mit 20 bis 30 Seiten, da setze ich mich vor ChatGPT, dann bin ich bestimmt schneller“. Denken Sie daran: zuerst die Prozesse, dann die Lösung.
Wir können diesen Prozess in kleinere Teilprozesse zerlegen: zum Haus fahren, Fotos machen und dann die einzelnen Teile des Gutachtens schreiben, also die Lagebeschreibung sowie Zustand und Größe der einzelnen Räume. Schauen wir tiefer in einen einzelnen Prozess, sehen wir die beteiligten Aufgaben, Gateways und Ereignisse. Für die Lagebeschreibung etwa sitzt der Gutachter am Schreibtisch, recherchiert, schaut auf Google Maps, welche Geschäfte in der Nähe sind, und prüft den Verkehrsplan der Stadt, um zu sehen, wie gut das Haus angebunden ist und wie die Straße aussieht. All das sind Aktivitäten (oder Aufgaben), die der Sachbearbeiter erledigen muss. Ist das Objekt ein einzelner Hof im Nirgendwo, sind die ÖPNV-Verbindungen vermutlich irrelevant, weil Käufer solcher Häuser ohnehin auf das Auto angewiesen sind. Diese Entscheidung, welcher Pfad in einem Prozess genommen wird, nennt man Gateway.
Ist-Prozess des Beispiels, modelliert in BPMN 2.0. (c) Marcel Müller 2024
Diese prozessgetriebene Denkweise beginnt damit, den aktuellen Prozess zu bewerten, bevor wir irgendeine KI darauf werfen.
Mit dieser Analyse unserer Prozesse und unseres Ziels können wir nun betrachten, wie ein Prozess mit KI aussehen sollte. Wichtig ist, über die einzelnen Schritte nachzudenken. Konzentrieren wir uns nur auf den Teilprozess für die Beschreibung, könnte das so aussehen:
Und ja, das geht auch interaktiv mit einem Chatbot, mit dem Sie als „KI-Sparringspartner“ arbeiten, bis das Ergebnis steht. Im Unternehmen hat das aber drei große Probleme:
Diese Probleme liegen im Fundament der LLMs hinter den Chatbots.
Chatbot-Interaktion (links) vs. Orchestrierung eines vordefinierten, reproduzierbaren Prozesses (rechts). (c) Marcel Müller 2024
Statt auf einen „Prompt-Antwort“-Zyklus zu setzen, sollten Unternehmensanwendungen als Folge orchestrierter, (teilweise) KI-gestützter Prozessschritte gestaltet werden, von denen jeder ein bestimmtes Ziel verfolgt. Nutzer könnten etwa einen mehrstufigen Prozess anstoßen, der verschiedene Modelle und gegebenenfalls multimodale Eingaben verbindet, um wirksamere Ergebnisse zu liefern, und diese Schritte mit kleinen Skripten kombiniert, die Daten ohne KI abrufen. Leistungsfähigere und stärker automatisierte Workflows entstehen, wenn man Retrieval-Augmented Generation (RAG) einbindet und menschliche Eingriffe minimiert.
Dieser Orchestrierungsansatz bringt deutliche Effizienzgewinne gegenüber der manuellen Orchestrierung über eine interaktive Oberfläche. Außerdem sollte nicht jeder Prozessschritt allein auf einem KI-Modell beruhen. Im obigen Beispiel haben wir tatsächlich festgestellt, dass die Google Maps API für nahe Haltestellen und Bahnhöfe weit bessere Qualität liefert, als ein gutes LLM wie GPT-4o oder sogar eine RAG-Websuche wie Perplexity zu fragen.
Denken wir kurz an eine Zeit ohne KI. Manuelle Prozesse können viel Zeit kosten. Nehmen wir an, eine Aufgabe dauert manuell eine Stunde, und der Prozess wird viermal wiederholt, also vier Stunden insgesamt. Eine Chatbot-Lösung auf Basis von Generative AI könnte 50 % (oder einen anderen Anteil) der Zeit sparen. Die restliche Zeit geht jedoch dafür drauf, Prompts zu formulieren, auf Antworten zu warten und die Qualität durch Korrekturen und Anpassungen zu sichern. Ist das schon das Beste?
Zeitersparnis im Vergleich: manuell vs. chatbotbasierte Automatisierung. (c) Marcel Müller 2024
Bei wiederkehrenden Aufgaben kann es trotz Zeitersparnis problematisch sein, Prompts zu formulieren, zu warten und Ergebnisse für Konsistenz anzupassen, vor allem wenn mehrere Mitarbeitende denselben Prozess ausführen. Deshalb wird der Einsatz von Prozessvorlagen entscheidend.
Mit Vorlagen werden Prozesse verallgemeinert und parametrisiert, sodass sie wiederverwendbar sind. Der Aufwand für eine hochwertige Prozessvorlage fällt nur einmal an, während die Ausführung für Einzelfälle deutlich effizienter wird. Die Zeit für Prompts, Qualitätssicherung und Nacharbeit sinkt drastisch. Das ist der Kernunterschied zwischen chatbotbasierten Lösungen und KI-gestützter Prozessorchestrierung mit Vorlagen. Und dieser Unterschied wirkt sich enorm auf Qualität und Reproduzierbarkeit aus.
Die echte Ersparnis durch Prozessvorlagen. (c) Marcel Müller 2024
Außerdem haben wir jetzt ein eng begrenztes Feld, in dem wir unsere Lösung testen und validieren können. In einem Chatbot, in den der Nutzer alles eingeben kann, ist es schwer, zu testen und Vertrauen auf quantifizierbare Weise zu gewinnen. Je genauer wir die möglichen Parameter und Dateien festlegen und einschränken, desto besser können wir eine Lösung quantitativ validieren.
Vorlagen in KI-gestützten Prozessen folgen den Prinzipien einer Business Process Engine im klassischen Prozessmanagement. Entsteht ein neuer Fall, greifen diese Engines auf ein Repository von Vorlagen zurück und wählen die passende für die Orchestrierung. Dafür werden dann die Eingabeparameter befüllt.
In unserem Beispiel der Immobilienbewertung hat die Vorlage drei Eingaben: die Objektart (Einfamilienhaus), eine Sammlung von Innenraumfotos und die Adresse.
Die Prozessvorlage sieht so aus:
In unserem Beispiel haben wir die Anwendung mit der Plattform entAIngine und ihrem integrierten No-Code-Builder umgesetzt.
Beachten Sie: In diesem Prozess nutzt nur 1 von 4 Schritten ein Large Language Model. Und das ist gut so! Denn die Google Maps API halluziniert nie. Ja, die Daten können veraltet sein, aber sie wird nie „einfach etwas erfinden, das plausibel klingt“. Zweitens hat der Mensch im Prozess eine Prüfmöglichkeit, weil wir jetzt echte Informationsquellen haben, die wir analysieren und freigeben können.
Im klassischen Prozessmanagement verringern Vorlagen die Prozessvariabilität, sichern Wiederholbarkeit und steigern Effizienz und Qualität (wie in Methoden wie Six Sigma). Genau diese Denkweise müssen wir hier übernehmen.
Wir haben jetzt einen Prozess, der ein LLM nutzt und gleichzeitig viele Kopfschmerzen löst. Aber wie interagiert ein Nutzer damit?
Einen solchen Prozess kann man komplett von Hand programmieren oder eine No-Code-KI-Prozess-Engine wie entAIngine nutzen [6].
Wenn Geschäftsprozesse mit Vorlagen modelliert werden, sind verschiedene Interaktionsformen möglich. Nach meiner Erfahrung aus den letzten 2 Jahren sind für 90 % der Generative-AI-Anwendungsfälle diese Oberflächen relevant:
* Oberfläche für Wissensabruf: Funktioniert wie eine Suchmaschine, die Quellen zitieren und belegen kann.
* Dokumenteneditor: Verbindet Textverarbeitung mit Zugriff auf Vorlagen, Modelle und Orchestrierungen.
* Chat-Oberfläche: Für iterative, interaktive Arbeit.
* Eingebettete Orchestrierung ohne eigene Oberfläche (RPA): Fügt sich über APIs in bestehende Oberflächen ein.
Am Ende stellt sich die Frage: Was ist die effizienteste Art der Interaktion? Für manche kreativen Anwendungsfälle oder nicht wiederkehrende Aufgaben kann ein Chat das Mittel der Wahl sein. Oft ist er es aber nicht. Häufig will ein Nutzer im Kern ein Dokument erstellen. Dann ist es sehr effizient, die Vorlagen in einem Editor verfügbar zu haben. Und manchmal brauchen Sie gar keine weitere isolierte Oberfläche, weil Sie eine bestehende Anwendung mit KI erweitern wollen. Die Aufgabe ist dann nur, den richtigen Prozess auszuführen, die Eingabedaten aus der bestehenden Anwendung zu holen und das Ergebnis irgendwo in der Anwendung anzuzeigen.
Diese Oberflächen bilden die Grundlage für die meisten Generative-AI-Anwendungsfälle, die mir bisher begegnet sind, und ermöglichen zugleich eine skalierbare Integration in Unternehmensumgebungen.
Wenn Unternehmen ihr Denken weg von „Wie kann ich überall einen KI-Chatbot einsetzen?“ hin zu „Welche Prozesse haben welche Schritte, und wie lässt sich Generative AI in diesen Schritten nutzen?“ lenken, legen sie die Grundlage für echte KI-Wirkung. Verbinden Sie KI mit bestehenden Systemen, und überlegen Sie erst danach, welche Oberfläche Sie brauchen. So erschließen Sie Effizienz, von der Unternehmen, die nicht über Chatbots hinausdenken, nicht einmal träumen.
[1] Dumas et al., "Fundamentals of Business Process Management", 2018
[2] Object Management Group. "Business Process Model and Notation (BPMN) Version 2.0.2." OMG Specification, Jan. 2014
[3] van der Aalst, "Process Mining: Data Science in Action", 2016
[4] Luthra, Sunil, et al. "Total Quality Management (TQM): Principles, Methods, and Applications." 1st ed., CRC Press, 2020.
[5] Panagacos, "The Ultimate Guide to Business Process Management", 2012
[6] www.entaingine.com
