KI in Unternehmen: Investitionen hoch, ROI bleibt aus

KI-Investitionen rauf, ROI stagniert

Der Kyndryl Readiness Report 2025 konstatiert eine um 33 Prozent höhere Investition in künstliche Intelligenz (KI) gegenüber dem Vorjahr. Dennoch berichten 46 Prozent der befragten Unternehmen, dass sie keinen positiven ROI sehen. 62 Prozent der Unternehmen verharren in der Experimentierphase und schaffen den Sprung in den Regelbetrieb nicht. In Deutschland erwarten 90 Prozent der Befragten binnen 12 Monaten weitreichende Rollenveränderungen durch KI (weltweit 87 Prozent). Parallel dazu haben 65 Prozent (in Deutschland 66 Prozent) ihre Cloud-Strategie aufgrund geopolitischer Faktoren angepasst, 61 Prozent (in Deutschland 62 Prozent) verspüren wachsenden Druck, den ROI von KI-Investitionen nachzuweisen, und nur 31 Prozent (in Deutschland 26 Prozent) fühlen sich für externe Geschäftsrisiken gut vorbereitet. Die Ergebnisse basieren auf einer Befragung von 3.700 internationalen Wirtschafts- und IT-Führungskräften.

Einordnung durch weitere Studien

Die Ergebnisse fügen sich in das Bild anderer Analysen ein:

• McKinsey State of AI 2025: Eine breite Einführung von GenAI ist zu beobachten, doch auf Unternehmensebene bleibt der EBIT-Effekt in den meisten Firmen aus. Weniger als ein Drittel setzt die entscheidenden Skalierungspraktiken konsequent um, und das KPI-Tracking ist häufig lückenhaft. Quelle
• Accenture (2025): 36 Prozent haben GenAI-Lösungen skaliert, 13 Prozent berichten von einem signifikanten Einfluss auf das Unternehmen. Schlussfolgerung ist, dass der Wert erst bei skalierter und verankerter Nutzung entsteht. Quelle
• Stanford HAI AI Index 2025: 78 Prozent der Organisationen nutzten 2024 KI in mindestens einem Funktionsbereich. Die KI-Einführung ist hoch, Aussagen zum ROI jedoch begrenzt. Quelle
• IDC: Für 2025 werden 307 Milliarden US-Dollar KI-Ausgaben erwartet, davon 69,1 Milliarden US-Dollar für GenAI. Bis zum Jahr 2028 sollen es 632 Milliarden US-Dollar sein. Die Investitionen steigen, ebenso der Nachweisdruck. Quelle
• Flexera State of the Cloud 2025: Kostenmanagement bleibt Top-Thema; im Mittel gelten etwa 27 Prozent der Cloud-Ausgaben als verschwendet – ein Hinweis auf Governance- und Planungsdefizite. Quelle

Bewertung: Kyndryls projektnahe ROI-Betrachtung (über Projekte/Anwendungsfälle) führt tendenziell zu höheren Positivquoten als Kennzahlen auf Enterprise-Ebene (EBIT, Gesamtproduktivität). Die Kernbotschaft ist jedoch konsistent: Skalierung, Governance und Messbarkeit sind die Engpässe.

Vom Pilotprojekt in den Betrieb: Wo es hakt

Warum scheitert der Übergang von der Idee zum Nutzen? Drei Muster wiederholen sich:

• Unklare Zielgrößen: Nur wenige Organisationen verknüpfen Agentische-- oder GenKI-Anwendungsfälle mit belastbaren Geschäfts-KPIs (Zeit bis zum Nutzen, Fehlerrate, Konversionsrate, Durchlaufzeit). Aber ohne Messung kein ROI.
• Betriebs- und Datenreife: Datenqualität, Datenherkunft (Lineage), Rechte-/Rollenmodelle, Observability sowie MLOps/LLMOps sind oft nicht produktionsreif.
• Governance und Sicherheit: Regulatorische Anforderungen, IP-Schutz und Nachvollziehbarkeit erfordern Schutzvorrichtungen – von Leitplanken (eng definierte Einsatzvorgaben) über Audit-Trails bis zu Notbremsen (Kill Switch).

Agentische KI: Zweite Chance – Status und Pläne

Agentische KI (Agentic AI) verspricht, Aufgabenketten eigenständig zu planen und auszuführen – mit menschlicher Aufsicht und klaren Vorgaben. Laut Kyndryl haben 71 Prozent der Unternehmen noch keine agentenbasierte KI produktiv im Einsatz. Andere Quellen zeigen jedoch hohe Planwerte: So berichtet Cisco, dass 83 Prozent der Unternehmen den Einsatz von Agenten innerhalb von zwölf Monaten planen. Zugleich erwarten die sogenannten Pacesetters – rund 13 Prozent der Organisationen – viermal so häufig den erfolgreichen Übergang vom Pilotprojekt in die Produktion und 50 Prozent häufiger messbare Ergebnisse. Prognosen bleiben vorsichtig: Gartner rechnet damit, dass mindestens 30 Prozent der GenAI-Projekte bis Ende 2025 nach dem Proof of Concept eingestellt werden. Bei autonomen Agenten ohne menschliche Aufsicht liegt die reale Nutzung weiterhin im niedrigen zweistelligen Prozentbereich.

Parallelen zur Cloud-Einführung

Der Kyndryl-Report erinnert an die Geschichte der Cloud: 70 Prozent der CEOs geben an, ihre Cloud sei „zufällig statt geplant“ gewachsen – mit entsprechenden Folgekosten in Betrieb und Steuerung. Dies spiegelt sich auch in Flexeras Befunden zum FinOps-Druck wider. Lerneffekt: Zunächst sind Architektur und Governance zu klären.

Fünf Maßnahmen erforderlich

Damit KI-Programme den Sprung vom Experiment in den Regelbetrieb schaffen und messbare Ergebnisse liefern, sind fünf pragmatische Maßnahmen erforderlich – unabhängig von Branche und Technologie-Stack.

1. Anwendungsfall-Portfolios priorisieren: Drei bis fünf geschäftskritische Prozesse definieren und mit klaren KPIs und Verantwortlichen versehen sowie ROI als messbare Zielgröße festlegen.
2. LLMOps/MLOps härten: Datenqualität, Prompt-Design, Monitoring, A/B-Tests, Drift- und Kostenkontrollen industrialisieren.
3. Agenten nur mit engen Einsatzvorgaben: Autonomiegrade stufen, menschliche Aufsicht verankern, Identitäten/Rechte sowie Audit-Trails standardisieren.
4. Infrastruktur ertüchtigen: Netz, Compute und Datacenter auf Skalierung und Effizienz trimmen (einschließlich GPU-Kapazitäten und Kostensteuerung).
5. Cloud-Governance und FinOps: Kosten als Designfaktor behandeln (Tagging, Showback/Chargeback, SLOs). Das Ziel liegt bei deutlich unter 10 Prozent Verschwendung statt 27 Prozent.

Fazit

Die Datenlage ist eindeutig: Die KI-Einführung in Unternehmen ist hoch, die Wirkung oft punktuell. Kyndryl, McKinsey, Accenture und andere Quellen kommen zu demselben Schluss. Wert folgt Reife. Wer Agentische KI als zweite Chance nutzen will, muss die bekannten Hebel – KPI-Fokus, Governance, Architektur und Betriebsdisziplin – frühzeitig angehen. Andernfalls droht die Wiederholung der Fehler bei der Einführung der Cloud: viel Experiment, wenig Ergebnis.