Operationalisierung von KI: Was Unternehmen bei der Skalierung von Modellen falsch machen

Führungskräfte investieren Millionen in KI, doch eine BCG-Studie aus dem Jahr 2025 ergab, dass nur etwa 5 % der Unternehmen einen messbaren Mehrwert aus KI in großem Maßstab ziehen , während die meisten kaum oder gar nichts sehen. Gleichzeitig zeigen mehrere Umfragen, dass mehr als die Hälfte der KI-Projekte aufgrund schlechter Daten, schwacher Governance und unklarem Geschäftswert nie in Produktion gehen oder nach dem Proof of Concept aufgegeben werden.

Das Problem ist nicht der Mangel an cleveren Modellen. Das Problem besteht darin, wie diese Modelle Tag für Tag betrieben, verwaltet und gewartet werden. Mit anderen Worten: Bei KI-Operationen liegen das größte Risiko und die meisten Vorteile.

In diesem Gastbeitrag geht es darum, warum die Skalierung von KI so oft scheitert, was in den Schützengräben schief geht und wie ein „Operations-First“-Ansatz die Flugbahn verändert.

Warum scheitert die Skalierung von KI bei den meisten Unternehmen?

Den meisten großen Organisationen mangelt es nicht an KI-Experimenten. Die jüngste McKinsey-Umfrage „State of AI“ zeigt, dass fast alle Befragten angeben, KI irgendwo zu nutzen, doch nur eine kleine Minderheit sieht nachhaltige Auswirkungen auf Unternehmensebene.

Was passiert in der Praxis:

• In allen Geschäftsbereichen werden Dutzende Proofs of Concept durchgeführt
• Eine Handvoll sieht in einer Demo vielversprechend aus
• Nur sehr wenige überleben Sicherheitsüberprüfungen, Integrationsarbeiten und echtes Benutzerfeedback

Unterhalb dieses Musters liegen einige vorhersehbare Probleme:

• KI als einmalige „Initiative“ statt operativer Fähigkeit
  KI wird wie ein Projekt mit einem Start- und Enddatum behandelt. Es gibt einen Budgetzyklus, einen Anbieter, ein Dashboard, eine Präsentation. Was fehlt, ist eine Sicht auf KI als ein Produkt, das eine Roadmap, Eigentümerschaft und ein laufendes Budget benötigt.
• Piloten, die die Produktionsumgebung ignorieren
  Viele Piloten verlassen sich in aller Stille auf handverwaltete Datensätze, manuelles Feature-Engineering oder einen einzelnen Power-User. Nichts davon existiert im lebenden Ökosystem. Wenn Teams versuchen, dasselbe Artefakt in die Produktion zu übertragen, ändert sich alles auf einmal, vom Datenzugriff bis zum Latenzverhalten.
• Keine wirtschaftliche Sicht auf die Skalierung
  Vorstände hören Geschichten über die 10-fache Produktivität. Was sie selten sehen, ist eine kostenorientierte Sicht auf Infrastruktur, Beobachtbarkeit, Modellaktualisierungen und Änderungsmanagement. Andernfalls steigen die Erwartungen und KI landet auf der Liste der „gescheiterten Innovationen“, wenn die erste Welle von Projekten enttäuschend ist.

Die meisten Playbooks für die KI-Skalierung in Unternehmen gehen immer noch davon aus, dass der Rest, sobald Sie das richtige Modell und die richtige Plattform ausgewählt haben, hauptsächlich Ausführungsdetails sind. In Wirklichkeit ist die Art und Weise, wie Sie KI-Operationen entwerfen und ausführen, oft wichtiger als das große Sprachmodell, das Sie ursprünglich ausgewählt haben.

Häufige betriebliche Fallstricke

Wenn ich mir gescheiterte oder ins Stocken geratene KI-Initiativen ansehe, finde ich fast immer die gleichen Betriebsmuster.

Fallstricke, die man in freier Wildbahn sieht

Hinter diesen Symptomen stecken immer wieder einige strukturelle Probleme:

• Fragmentierte Datenlieferketten
  Daten für Training, Tests und Bereitstellung stammen aus unterschiedlichen Pfaden, aber Datenverwaltungsdienste vereinheitlichen diese Pipelines, um Drift und Instabilität zu reduzieren. Modelle verhalten sich in Tests gut, in der Produktion jedoch schlecht, da die Eingabeverteilung und Aktualität völlig unterschiedlich sind.
• Über die Mauer geworfene Zusammenarbeit
  Datenwissenschaftler besitzen Notebooks. Plattformteams besitzen Cluster. Unternehmer besitzen KPIs. Niemand besitzt den gesamten Lebenszyklus von der Idee bis zur Pensionierung. Jede Übergabe führt zu Verzögerungen, Nacharbeiten und geringfügigen Abweichungen bei den Erwartungen.
• Das operationelle Risiko wird erst nachträglich behandelt
  Recht, Compliance und Sicherheit werden ins Gespräch gebracht, sobald etwas kurz vor der Markteinführung steht. Sie sehen eine fertige Lösung, äußern berechtigte Bedenken und das Projekt gerät ins Stocken. Es fühlt sich an, als ob „die Regierung die KI blockiert“, obwohl das eigentliche Problem in der späten Einbindung liegt.

Ohne eine Strategie für KI-Operationen bleiben Piloten auf der Strecke. Am Ende haben Sie Taschen mit interessanten Aufgaben, die nie in die Struktur des Unternehmens einfließen.

MLOps als fehlendes Glied im KI-Betrieb

MLOps wird oft als „DevOps für maschinelles Lernen“ beschrieben. Diese Definition ist technisch korrekt, aber sie unterschätzt, was vor sich geht. In der Praxis ist MLOps die Disziplin, die Modelle in betriebsbereite Systeme umwandelt und sie mit realen Geschäftsergebnissen verknüpft.

Sie können sich KI-Operationen als drei Ebenen vorstellen, die MLOps zusammenhalten müssen:

• Vermögenswerte

Untersuchungen zur MLOps-Einführung zeigen, dass Praktiken wie Workflow-Orchestrierung, Reproduzierbarkeit, Versionierung und Überwachung alle mit einer höheren Benutzerzufriedenheit und besseren Ergebnissen korrelieren. Das hört sich abstrakt an, bis man merkt, wie konkret die Fehlermöglichkeiten sind, wenn diese Praktiken fehlen.

MLOps ist keine Toolkategorie, die man einmal kauft. Es ist das operative Rückgrat, das Ihre Data-Science-, Plattform- und Produktteams als ein System agieren lässt. Aus diesem Grund steht es im Mittelpunkt ernsthafter KI-Operationsprogramme .

Governance und Überwachung, die im wirklichen Leben funktionieren

Viele Unternehmen reagieren auf das KI-Risiko, indem sie lange Richtliniendokumente verfassen. Weniger schaffen es, diese Dokumente in alltägliche Routinen für Teams umzuwandeln, die Modelle erstellen und ausführen.

Ausgereifte KI-Operationen neigen dazu, die Governance in drei praktische Schleifen zu integrieren:

• Technische Überwachungsschleife

Aktuelle Branchenanalysen zeigen, dass eine schlechte Datenverwaltung und eine schwache KI-Überwachung bereits die Hauptgründe dafür sind, dass viele KI-Projekte in den nächsten ein bis zwei Jahren voraussichtlich scheitern oder abgebrochen werden.

Die erfolgreichsten Organisationen, mit denen ich zusammenarbeite, behandeln diese Schleifen als Teil ihres KI-Operations -Playbooks und nicht als separate „Risikoinitiativen“. Sie automatisieren so viel wie möglich (Datenherkunft, Zugriffskontrollprüfungen, Abweichungserkennung) und investieren menschliche Zeit dort, wo Urteilsvermögen erforderlich ist.

Fallstudien zur erfolgreichen Skalierung von KI

Um dies zu konkretisieren, schauen wir uns zwei anonymisierte Muster an, die häufig auftauchen.

Fallstudie 1: Vom Proof-of-Concept-Theater zur Produktions-KI

Ein globaler Einzelhändler hatte mehr als 40 KI-Anwendungsfälle in verschiedenen Pilotphasen: Nachfrageprognose, dynamische Preisgestaltung, Marketingpersonalisierung und Ladenbetrieb. Nur zwei waren zu jedem Zeitpunkt aktiv und beide erforderten einen ständigen manuellen Eingriff.

Hauptprobleme:

• Jedes Team baute seine eigenen Pipelines und Infrastrukturmuster
• Keine gemeinsamen Standards für Überwachung, Datenzugriff oder Modellbereitstellung
• Unternehmer betrachteten KI als „IT-Projekt“ und nicht als Teil ihrer Gewinn- und Verlustrechnung

Das Unternehmen änderte seinen Kurs und gründete eine kleine zentrale KI-Operationsgruppe mit drei Verantwortlichkeiten:

• Definieren und pflegen Sie einen Referenz-MLOps-Stack (Datenaufnahmemuster, Trainings- und Bereitstellungspipelines, Experimentverfolgung, Modellregistrierung).
• Legen Sie Standards für Beobachtbarkeit, Governance und Kostenberichterstattung fest und setzen Sie diese durch.
• Trainieren Sie Geschäftsteams darin, KI-Anwendungsfälle als Produkte mit Eigentümern, Erfolgskennzahlen und Roadmaps zu behandeln.

Innerhalb von 18 Monaten:

• Die Zeit von der Idee bis zur ersten Produktionsfreigabe verkürzte sich von 9–12 Monaten auf etwa 8 Wochen
• Mehr als 20 Modelle liefen mit gemeinsam genutzten Tools statt mit maßgeschneiderten Skripten
• Vierteljährliche Überprüfungen verknüpften jeden Anwendungsfall mit messbaren Auswirkungen auf Marge und Lagerbestand

Das Interessante daran ist, was sich nicht geändert hat. Die zugrunde liegenden Modelle blieben ziemlich ähnlich. Der entscheidende Wandel erfolgte durch eine disziplinierte Unternehmens-KI-Skalierung durch gemeinsame Vorgänge, nicht durch exotische neue Algorithmen.

Fallstudie 2: Industrielle KI, die den Kontakt mit der Realität überlebt

Ein Industriehersteller versuchte, vorausschauende Wartungsmodelle für kritische Geräte einzusetzen. Der erste Versuch scheiterte. Auf historischen Sensordaten trainierte Modelle sahen in Offline-Tests genau aus, erzeugten jedoch in der Produktion zu viele Fehlalarme. Die Techniker hörten auf, aufzupassen.

Eine interne Überprüfung ergab drei Hauptursachen:

• Die Trainingsdaten wurden auf eine Weise bereinigt, die nicht das tatsächliche Sensorrauschen widerspiegelte
• Der Live-Pipeline fehlten zwei wichtige Signale, die im Training vorhanden waren
• Niemand hatte vorhergesagt, wie Modellvorhersagen die Arbeitsabläufe der Techniker verändern würden

Beim zweiten Versuch formulierte das Team die Arbeit neu als ein Skalierungsproblem für Unternehmens-KI und nicht als einen Datenwissenschaftswettbewerb.

Sie:

• Definierte einen klaren „Datenvertrag“ für Sensorströme mit Garantien hinsichtlich der Abtastfrequenz, der Einheiten und der Handhabung fehlender Daten
• Implementierung einer einheitlichen MLOps-Pipeline von der Aufnahme bis zur Bereitstellung, sodass umgeschulte Modelle mit minimaler Reibung in die Produktion übergehen konnten
• Einbeziehung von Technikern in das Design, mit auf ihre Realität abgestimmten Schwellenwerten und Alarmformaten

Die Überwachung umfasste nun sowohl Driftindikatoren als auch Feldrückmeldungen. Als sich das Modell zu verschlechtern begann, wurde die Umschulung über dieselbe standardisierte Pipeline und nicht über ein einmaliges Rettungsprojekt abgewickelt.

Innerhalb eines Jahres gingen ungeplante Ausfallzeiten in der Zielanlageklasse deutlich zurück. Die wichtigste Änderung war die Zuverlässigkeit der gesamten Pipeline und nicht ein dramatischer Anstieg der Modellgenauigkeit.

Wohin geht es von hier aus?

Wenn Sie es mit der Skalierung von Modellen ernst meinen, sollten Sie KI-Operationen zunächst als erstklassige Disziplin betrachten:

• Bilden Sie den gesamten Lebenszyklus von 2–3 hochwertigen Anwendungsfällen von der Datenaufnahme bis zur Außerbetriebnahme ab
• Identifizieren Sie jeden manuellen Schritt, jede Übergabe und jeden „Schattenprozess“, der Modelle am Leben erhält
• Entscheiden Sie, welche Elemente Ihres MLOps-Stacks gemeinsam genutzt werden sollen
• Integrieren Sie Governance und Überwachung in diese Standardvorgaben, anstatt sie darüber zu schichten

Die Organisationen, die in der nächsten KI-Welle von Bedeutung sein werden, sind nicht diejenigen mit den auffälligsten Demos. Sie sind diejenigen, die Monat für Monat leise Dutzende von Serienmodellen ohne Drama betreiben und weiterentwickeln können. Wenn Sie die KI-Operationen auf diesen Reifegrad bringen können, beginnt sich der Rest Ihrer Geschichte von selbst zu regeln.