KI-Investitionen im Mittelstand: Was die Zahlen zeigen

80 %

der KI-Projekte scheitern, doppelt so viele wie IT-Projekte ohne KI. Der teuerste Posten im Budget ist das Projekt, das nie in Betrieb geht. RAND Corporation, 2024

55000 €

kostet ein produktives KI-System für einen Fachbereich im ersten Jahr, inklusive Wissensaufbereitung, Integration und Betrieb. Piloten beginnen bei 12.000 Euro. Marktangaben deutscher Anbieter, 2026

3 %

Nur 3 % der Unternehmen bestätigen einen signifikanten ROI aus Microsoft 365 Copilot. 30 bis 60 Prozent der gekauften Lizenzen liegen nach sechs Monaten brach. Gartner, 2025; KMU-Auswertung 2026

Was in einem KI-Angebot tatsächlich drinsteckt

Engpass: Drei Angebote, drei Preise, keine Vergleichbarkeit

Ein Beispiel, das sich so oder ähnlich in vielen Häusern abspielt: Ein Hersteller von Dosier- und Prozesstechnik will die Angebotserstellung beschleunigen. Ein Angebot mit Werkstoffauswahl, Druckbereich und Beständigkeitsnachweis bindet einen Applikationsingenieur zwei bis drei Stunden. Drei Anbieter machen ein Angebot: 18.000 Euro, 90.000 Euro, 340.000 Euro. Alle drei beschreiben dasselbe Ziel.

Die Spanne liegt selten in der Marge. Sie liegt darin, dass die drei Anbieter drei verschiedene Dinge verkaufen. Das erste Angebot ist ein Prototyp auf einem Testdatensatz. Das zweite ein produktives System für eine Abteilung. Das dritte enthält die Aufbereitung von 40 Jahren technischer Dokumentation. Ohne diese Aufschlüsselung vergleichen Sie Preise für drei unterschiedliche Produkte.

Für den Mittelstand ist Kostenunsicherheit deshalb kein Randproblem, sondern das zentrale Hemmnis. Laut Bitkom nutzen inzwischen 36 Prozent der Unternehmen ab 20 Beschäftigten KI, nach 20 Prozent im Vorjahr [1]. Gleichzeitig nennen 53 Prozent rechtliche Unsicherheit und fehlendes technisches Know-how als Bremse, 51 Prozent fehlende personelle Ressourcen. Im Maschinenbau kommt eine spezifische Blockade dazu: 44 Prozent nennen einen nicht bewiesenen ROI als Hauptproblem [2].

Ausweg: Vier Kostenblöcke, die jedes Angebot ausweisen muss

Ein vergleichbares Angebot trennt vier Positionen sauber voneinander. Erstens die Infrastruktur: Cloud-Umgebung, Suchindex, Berechtigungssystem. Zweitens die Wissensaufbereitung: das Extrahieren, Bereinigen und Strukturieren Ihrer Dokumente. Drittens die Integration in bestehende Systeme — ERP, CRM, Microsoft Teams. Viertens der laufende Betrieb.

Verlangen Sie diese Aufschlüsselung. Wenn ein Anbieter die Wissensaufbereitung nicht separat ausweist, hat er sie entweder nicht eingeplant oder er verkauft Ihnen einen Prototyp als Produktivsystem. Für die Größenordnung: Fokussierte Piloten beginnen im deutschen Markt bei rund 12.000 Euro netto, mittlere Rollouts mit Schnittstellen liegen häufig zwischen 25.000 und 55.000 Euro [3]. Ein vollständig integriertes System mit ERP-Anbindung erreicht schnell einen unteren sechsstelligen Betrag im ersten Jahr [4].

174000 €

gewonnene Arbeitszeit im Jahr, wenn 40 Mitarbeitende in Vertrieb und Service je zwei Stunden pro Woche zurückbekommen – gerechnet mit 48,30 Euro je Stunde. Gegen diese Größenordnung müssen Sie die Kosten halten, nicht gegen den Lizenzpreis je Nutzer.

Die Rechnung, die niemand aufmacht

Engpass: Das teuerste Projekt ist das, das nie in Betrieb geht

Die Zahlen hinter dem Ordner aus dem Einstieg sind gut dokumentiert. Die RAND Corporation hat 65 erfahrene Data Scientists und Engineers befragt: Über 80 Prozent der KI-Projekte scheitern, doppelt so viele wie IT-Projekte ohne KI [5]. Eine Untersuchung des MIT aus dem Jahr 2025 verschärft das Bild: Bei 95 Prozent der untersuchten Piloten für generative KI ließ sich kein messbarer Effekt auf die Gewinn- und Verlustrechnung nachweisen, trotz weltweit 30 bis 40 Milliarden Dollar an Ausgaben [6]. Gartner erwartete bereits 2024, dass mindestens 30 Prozent der Projekte nach dem Proof of Concept abgebrochen werden, wegen schlechter Datenqualität, unklarer Risikokontrolle und fehlendem Geschäftswert [7].

Die 45.000 Euro sind dabei nur der sichtbare Teil. Dazu kommt die interne Arbeitszeit von Fachabteilung und IT über acht Monate. Und der Posten, der sich nicht buchen lässt: die Glaubwürdigkeit, mit der Sie das nächste Projekt intern durchsetzen müssen. Nach einem gescheiterten Piloten sitzt beim zweiten Anlauf ein Beirat am Tisch, der schon einmal Ja gesagt hat.

Ausweg: Die Erfolgskennzahl steht vor dem ersten Euro

Der wirksamste Kostenschutz ist eine harte, messbare Kennzahl, die vor Projektbeginn festgeschrieben wird. Nicht „die Mitarbeitenden sollen produktiver werden", sondern: „80 Prozent der eingehenden Serviceanfragen zur Baureihe X werden in unter 15 Sekunden mit Quellenangabe beantwortet." Ohne diese Zahl lässt sich der Erfolg hinterher nicht belegen — und genau das ist der Mechanismus, über den Projekte still versanden.

Eine zweite Erkenntnis aus der MIT-Untersuchung wird häufig verkürzt wiedergegeben. Erfolgreich waren nicht die Unternehmen, die ein fertiges Produkt gekauft haben, sondern die, deren System in bestehende Prozesse integriert war — rund zwei Drittel erreichten ihr Ziel. Gescheitert sind die Projekte, die ohne erprobte Plattform, ohne Betriebskonzept und ohne Prozessbezug begonnen wurden [6]. Der Unterschied liegt also nicht zwischen kaufen und bauen, sondern zwischen einem Forschungsprojekt und einem System, das auf bewährter Infrastruktur läuft.

Für Sie heißt das: Bauen Sie kein eigenes KI-Labor auf, und kaufen Sie auch keine Standardsoftware, die Ihre Produkte nicht kennt. Lassen Sie auf erprobten Komponenten aufsetzen — so, dass Ihr Prozess und Ihr Wissen darin abgebildet sind und das System in dem Werkzeug läuft, das Ihre Leute ohnehin geöffnet haben.

Der teuerste Posten in einem KI-Budget ist nicht das System, das zu viel kostet. Es ist das Pilotprojekt, das nie in Betrieb geht.

Jonas Reuter
Jonas Reuter
Geschäftsführer, Partner

Wo das Budget wirklich hingeht

Engpass: Der größte Kostenblock steht in keinem Angebot

Die Technik ist heute der günstigste Teil eines KI-Projekts. Der Betrieb einer Wissensbasis für 100 bis 300 Nutzer liegt auf Microsoft Azure realistisch bei 500 bis 1.500 US-Dollar im Monat: Der Suchindex kostet rund 245 Dollar pro Einheit und Monat, die Sprachmodell-Nutzung wird nach Textmenge abgerechnet, dazu kommen Speicher und Überwachung [8][9]. Für ein Unternehmen mit 300 Mitarbeitenden sind das Betriebskosten in der Größenordnung eines halben Firmenwagens.

Der eigentliche Aufwand liegt woanders. Über alle Untersuchungen hinweg entfallen 60 bis 80 Prozent des Projektaufwands auf das Sammeln, Bereinigen und Strukturieren der Daten [10]. Bei einem Maschinenbauer heißt das konkret: Wartungshandbücher aus vier Software-Generationen, Stücklisten im ERP, Serviceberichte als gescannte PDFs, Konstruktionsrichtlinien in einem Wiki, das seit 2019 niemand gepflegt hat. Diese Grundlage muss maschinenlesbar gemacht, in sinnvolle Abschnitte zerlegt und mit Zugriffsrechten versehen werden.

Ausweg: Datenaudit vor dem Angebot, nicht danach

Deshalb ist ein Festpreis für ein KI-Projekt ohne vorheriges Datenaudit ein Warnsignal. Der Anbieter kennt den größten Kostenblock nicht — also kalkuliert er entweder mit Puffer, den Sie bezahlen, oder er kalkuliert zu knapp und reicht später nach.

Ein Datenaudit beantwortet drei Fragen: Welche Dokumente sind für den gewählten Prozess relevant? In welchem Zustand sind sie? Und wer darf was sehen? Das lässt sich für einen Fachbereich in wenigen Tagen klären. Erst danach ist eine belastbare Zahl möglich. Welche Fragen Ihre IT dabei beantworten muss, haben wir in Fünf Fragen, die Ihre IT beantworten muss, bevor Sie KI einführen aufgeschlüsselt.

Der Nebeneffekt: Sie erfahren dabei, wie es um Ihr dokumentiertes Wissen wirklich steht — eine Erkenntnis, die auch ohne KI-Projekt Wert hat.

NETZSCH Gruppe – KI-Vertriebsingenieur im Einsatz

Referenzprojekt

NETZSCH Gruppe

Ein Prozess, eine Kennzahl, ein System im Betrieb: Wissen aus mehr als 100.000 technischen Dokumenten

Genau der Zuschnitt, den dieser Artikel empfiehlt: ein Prozess, eine harte Kennzahl, ein produktives System. Die NETZSCH Gruppe setzt seit Jahrzehnten auf tiefes applikationstechnisches Wissen als Wettbewerbsvorteil. MORGEN hat dieses Wissen aus mehr als 100.000 technischen Dokumenten erschlossen — mit Quellenangabe je Antwort, in Sekunden statt in Stunden. Kein Pilot, der nach acht Monaten in einem Ordner endet.

Zur Erfolgsgeschichte

Vom Lizenzpreis zur echten Nutzenrechnung

Was eine Standardlizenz kann und was nicht

Microsoft 365 Copilot kostet in der Business-Variante ab rund 19,70 Euro je Nutzer und Monat [11]. Für 150 Mitarbeitende sind das etwa 35.000 Euro im Jahr — ohne jede Einführungsinvestition. Das klingt zunächst nach der günstigeren Antwort.

Die Zahlen dazu sind allerdings ernüchternd: Eine Gartner-Erhebung Ende 2025 fand, dass nur 3 Prozent der Organisationen einen signifikanten Copilot-ROI bestätigen; in deutschen Auswertungen werden 30 bis 60 Prozent der gekauften Lizenzen nach sechs Monaten kaum genutzt [12]. Der Grund ist strukturell: Ein Standardwerkzeug kennt Ihre Werkstoffverträglichkeiten nicht, Ihre Baureihenhistorie nicht und Ihre Servicefälle nicht. Es hilft beim Formulieren einer E-Mail. Es hilft nicht bei der Frage, ob eine Dichtung aus FFKM bei 140 Grad und konzentrierter Salpetersäure hält.

So rechnen Sie den ROI bottom-up

Rechnen Sie mit Ihren eigenen Zahlen, in drei Schritten.

Was Sie gewinnen. Eine Arbeitsstunde kostet im Verarbeitenden Gewerbe 48,30 Euro [13]. Gewinnen 40 Mitarbeitende in Vertrieb und Service je zwei Stunden pro Woche, sind das 174.000 Euro im Jahr. Halbieren Sie den Wert, um auf der sicheren Seite zu sein; unabhängige Messungen liegen eher am unteren Rand [14]. Bleiben 87.000 Euro.

Was darin nicht steckt. Kein Cent aus schnelleren Angeboten, gehaltenen Kunden oder gewonnenen Aufträgen. Ein einziger Auftrag über 180.000 Euro bringt bei 35 Prozent Deckungsbeitrag 63.000 Euro — und den gewinnen Sie, weil Ihr Angebot als erstes vorlag.

Was es kostet. Für einen Fachbereich rund 70.000 Euro im ersten Jahr, Einführung und Betrieb zusammen. Rechnen Sie Überwachung, Modellpflege und Wissensaktualisierung mit ein, die laufen dauerhaft weiter [9]. Fördermittel wie die KfW-Kredite oder der Digitalbonus.Bayern senken den Eigenanteil [15][16].

Bleibt eine Investition, die sich nach rund zehn Monaten trägt, allein aus gesparter Zeit. Ein einziger zusätzlich gewonnener Auftrag würde sie im ersten Jahr komplett bezahlen. Das ist die Rechnung, die in keinem Angebot steht.

Der größte Hebel ist nicht die Stunde, die Sie sparen. Es ist der Auftrag, den Sie gewinnen, weil Ihr Angebot als erstes beim Kunden liegt.

Jonas Reuter
Jonas Reuter
Geschäftsführer, Partner

Der Wert entsteht am Kunden, nicht in der Zeiterfassung

Gesparte Arbeitszeit lässt sich am leichtesten rechnen und ist der kleinste Teil des Nutzens. Drei Hebel, die bei erklärungsbedürftigen Produkten deutlich schwerer wiegen.

Das erste belastbare Angebot gewinnt. Bei gleichwertigen Anbietern entscheidet die Reaktionszeit über den Zuschlag. Ein einziger Auftrag über 180.000 Euro mit 35 Prozent Deckungsbeitrag sind 63.000 Euro – aus einem Projekt, das Sie sonst verloren hätten.
Kundenbindung entsteht im Service, nicht im Preis. Wer auf eine technische Rückfrage am selben Tag eine belastbare Antwort mit Quellenangabe bekommt, wechselt nicht wegen drei Prozent Preisunterschied. Bei Anlagen mit 15 Jahren Lebensdauer entscheidet das über Folgeaufträge und Ersatzteilgeschäft.
Ihre Experten arbeiten wieder an Aufträgen. Der Applikationsingenieur beantwortet keine Standardfragen mehr. 20 Prozent seiner Zeit zurück sind rund 17.000 Euro im Jahr – eingesetzt für Sonderauslegungen, an denen die größten Projekte hängen.

4 Impulse für Ihre Investitionsentscheidung

Bevor Sie ein Angebot unterzeichnen, klären Sie diese vier Punkte.

Den Wert zuerst rechnen, nicht die Kosten
Zeitersparnis ist der kleinste Hebel. Rechnen Sie zuerst, was kürzere Reaktionszeiten, entlastete Applikationsingenieure und früher abgegebene Angebote wert sind. Bei sechsstelligen Auftragswerten trägt ein einziger zusätzlicher Auftrag im Jahr das gesamte Projekt.
Einen Prozess wählen, keine Strategie
Suchen Sie den einen Prozess mit hohem, wiederkehrendem Wissensaufwand: technischer Service, Angebotserstellung, Reklamationsbearbeitung. Ein Projekt mit klarem Prozessbezug ist rechenbar. Eine KI-Strategie ist es nicht.
Datenaudit vor dem Angebot
Klären Sie vor jeder Preisverhandlung, welche Dokumente relevant sind, in welchem Zustand sie vorliegen und wer sie sehen darf. Ohne diese Grundlage ist jeder Festpreis geraten — zu Ihren Lasten oder zu denen des Anbieters.
Ownership sichern, Betrieb einrechnen
Lassen Sie sich zusichern, dass Infrastruktur und Berechtigungskonzept nach Projektende in Ihrem eigenen Tenant liegen und von Ihrer IT betrieben werden. Kalkulieren Sie Betrieb, Überwachung und Wissenspflege mit 15 bis 40 Prozent über den Nutzungskosten — und prüfen Sie Förderprogramme vor dem Projektstart.
Jonas Reuter
Jonas Reuter
Geschäftsführer, Partner

Was kostet ein KI-Projekt in Ihrem Haus?

Sie wollen wissen, was ein KI-Projekt in Ihrem Haus kostet — und ob es sich rechnet. In einem ROI-Erstgespräch gehen wir Ihren konkreten Prozess durch: Welche Zeitersparnis ist realistisch, welche Datengrundlage liegt vor, welche Kostenblöcke entstehen tatsächlich. Sie bekommen eine Rechnung, die Sie Ihrem Beirat vorlegen können.

ROI-Erstgespräch vereinbaren

Häufige Fragen zu KI-Projektkosten

Die Spanne ist groß und hängt fast vollständig vom Umfang ab. Fokussierte Piloten beginnen im deutschen Markt bei rund 12.000 Euro netto. Ein produktives System für einen Fachbereich, also mit Wissensaufbereitung, Integration und Betrieb, liegt bei etwa 55.000 Euro im ersten Jahr plus rund 15.000 Euro laufend. Ein vollständig integriertes System mit ERP-Anbindung erreicht einen unteren sechsstelligen Betrag. Entscheidend für den Vergleich ist, dass ein Angebot vier Positionen getrennt ausweist: Infrastruktur, Wissensaufbereitung, Integration und laufender Betrieb.

Bei einem fokussierten Projekt mit klarem Prozessbezug liegt die Amortisation typischerweise zwischen zehn und achtzehn Monaten. Ein Rechenbeispiel: Gewinnen 40 Mitarbeitende in Vertrieb und Service je zwei Stunden pro Woche, entspricht das bei 48,30 Euro Arbeitskosten je Stunde rund 174.000 Euro im Jahr. Konservativ halbiert bleiben 87.000 Euro, denen etwa 70.000 Euro Gesamtkosten im ersten Jahr gegenüberstehen. Nicht enthalten sind dabei die größeren Hebel: kürzere Reaktionszeiten, entlastete Experten und zusätzlich gewonnene Aufträge.

Für 100 bis 300 Nutzer liegen die reinen Cloud-Kosten auf Microsoft Azure realistisch bei 500 bis 1.500 US-Dollar im Monat. Der Suchindex kostet rund 245 Dollar je Einheit und Monat, die Sprachmodell-Nutzung wird nach Textmenge abgerechnet, dazu kommen Speicher und Überwachung. Rechnen Sie 15 bis 40 Prozent über diesen reinen Nutzungskosten, weil Monitoring, Modellpflege, regelmäßige Neuindexierung und Wissensaktualisierung dauerhaft weiterlaufen.

Für allgemeine Büroproduktivität ja, für Ihr Produktwissen nein. Copilot kostet ab rund 19,70 Euro je Nutzer und Monat und hilft beim Formulieren von E-Mails und Zusammenfassen von Terminen. Es kennt aber Ihre Werkstoffverträglichkeiten nicht, Ihre Baureihenhistorie nicht und Ihre Servicefälle nicht. Eine Gartner-Erhebung Ende 2025 fand, dass nur 3 Prozent der Organisationen einen signifikanten Copilot-ROI bestätigen. Sobald firmenspezifisches Wissen der Kern des Nutzens ist, braucht es eine eigene Wissensbasis auf Ihren Dokumenten.

Die Bundesprogramme Digital Jetzt und go-digital sind ausgelaufen. Seit Juli 2025 gibt es die KfW-Förderkredite ERP-Digitalisierung und ERP-Innovation für Unternehmen bis 500 Millionen Euro Umsatz. Dazu kommen das Zentrale Innovationsprogramm Mittelstand (ZIM) und die BAFA-Beratungsförderung. In Bayern ist der Digitalbonus bis Dezember 2027 verlängert und fördert Robotik und KI mit bis zu 50.000 Euro, allerdings nur für Unternehmen unter 50 Beschäftigten. Wichtig: Der Antrag muss immer vor Investitionsbeginn gestellt werden.

Die RAND Corporation beziffert die Scheiterquote auf über 80 Prozent, doppelt so hoch wie bei IT-Projekten ohne KI. Eine MIT-Untersuchung fand 2025 bei 95 Prozent der Piloten für generative KI keinen messbaren Effekt auf die Gewinn- und Verlustrechnung. Die Hauptursachen sind nicht technischer Natur: schlechte Datenqualität, fehlende Integration in bestehende Prozesse und eine fehlende Erfolgskennzahl, die vor Projektbeginn festgeschrieben wird. Deshalb ist das gescheiterte Pilotprojekt der teuerste Posten in jedem KI-Budget.

Über alle Untersuchungen hinweg entfallen 60 bis 80 Prozent des Projektaufwands auf das Sammeln, Bereinigen und Strukturieren der Daten, nicht auf das Modell. Bei einem Maschinenbauer heißt das konkret: Wartungshandbücher aus mehreren Software-Generationen, Stücklisten im ERP, Serviceberichte als gescannte PDFs und Konstruktionsrichtlinien in einem ungepflegten Wiki. Diese Grundlage muss maschinenlesbar gemacht, sinnvoll zerlegt und mit Zugriffsrechten versehen werden. Ein Festpreis ohne vorheriges Datenaudit ist deshalb ein Warnsignal.

Quellen

[1] Bitkom / Bitkom Research: Durchbruch bei Künstlicher Intelligenz. September 2025. Befragung von 604 Unternehmen ab 20 Beschäftigten. bitkom.org

[2] VDMA Software und Digitalisierung: Umfrage KI im Maschinenbau. 2025. 43 % nutzen KI/ML, 44 % nennen unbewiesenen ROI als Problem.

[3] Groenewold IT Solutions: KI Mittelstand — Use Cases, Kosten & Umsetzung. 2026. (Anbieterangabe)

[4] ki-beratung-deutschland.de: KI Implementierung Kosten. 2026. (Anbieterangabe)

[5] Ryseff, J. / Narayanan, A. (RAND Corporation): The Root Causes of Failure for Artificial Intelligence Projects and How They Can Succeed. 2024. rand.org/pubs/research_reports/RRA2680-1.html

[6] MIT / Projekt NANDA: The GenAI Divide — State of AI in Business 2025. 2025.

[7] Gartner: Pressemitteilung vom 30. Juli 2024. Mindestens 30 % der GenAI-Projekte werden nach dem Proof of Concept abgebrochen.

[8] Microsoft: Azure AI Search Pricing und Azure OpenAI Service Pricing. 2026. azure.microsoft.com

[9] Inference.net / CloudZero: Azure OpenAI TCO-Analysen. 2026. Produktionsbetrieb liegt 15–40 % über den reinen Nutzungskosten.

[10] Konsens mehrerer Untersuchungen zur Datenaufbereitung; vgl. Andrew Ng (Stanford): 60–80 % des Projektaufwands entfallen auf Datenqualität.

[11] Microsoft 365 Copilot: Preisangaben Business-Variante, Stand Dezember 2025.

[12] Gartner-Erhebung Ende 2025: nur 3 % mit signifikantem Copilot-ROI; deutsche KMU-Auswertung Q1 2026: 30–60 % der Lizenzen kaum genutzt.

[13] Statistisches Bundesamt: Pressemitteilung PD25_154, 30. April 2025. Arbeitskosten Verarbeitendes Gewerbe 48,30 Euro je Stunde.

[14] Brynjolfsson, E. / Li, D. / Raymond, L.: Generative AI at Work. NBER Working Paper No. 31161, 2023. +14 % gelöste Fälle pro Stunde, +34 % bei weniger erfahrenen Mitarbeitenden.

[15] KfW: ERP-Förderkredit Digitalisierung und ERP-Förderkredit Innovation, seit Juli 2025. Für Unternehmen bis 500 Mio. Euro Umsatz.

[16] Digitalbonus.Bayern: Förderprogramm, verlängert bis Dezember 2027. digitalbonus.bayern

Gradient Helper