Die 40.000-Euro-Folien: Warum KI-Beratung im Mittelstand meist in der Schublade endet

Deutsche Firmen holen bei KI auf. Der Mittelstand hängt trotzdem hinterher, und schuld ist selten die Technik. Ein Blick auf die Zahlen und auf das, was gute Beratung anders macht.

Ich habe mal ein Beratungs-PDF gesehen, das ein Maschinenbauer aus Schwaben für 40.000 Euro bekommen hatte. 90 Folien, sauber gelayoutet, „KI-Roadmap 2025″ auf dem Deckblatt. Der Geschäftsführer blätterte kurz durch und legte es weg. Ein Jahr später lag es immer noch im selben Ordner. Passiert war: nichts.

Das ist kein Einzelfall, das ist das Muster. Viele Firmen kaufen Beratung ein und bekommen eine Analyse ihrer selbst zurück. Schön aufbereitet, gut vorgetragen, und am Ende steht dieselbe Frage im Raum wie vorher: Und jetzt?

Der Graben, den keiner gern zugibt

Erst die gute Nachricht. Deutschland zieht an. Laut Bitkom nutzten 2025 rund 36 Prozent der Unternehmen KI, fast doppelt so viele wie im Jahr davor. Für 2026 meldet der Verband bereits 41 Prozent, weitere 48 Prozent planen den Einsatz. Die Kurve zeigt nach oben, daran gibt es nichts zu deuteln.

Dann die unbequeme. Diese Zahlen sind ein Durchschnitt, und Durchschnitte verstecken das eigentliche Problem. Bei Konzernen mit mehr als 500 Beschäftigten liegt die Nutzung jenseits der 60 Prozent. Im klassischen Mittelstand darunter sieht die KfW etwa 20 Prozent. Der große Player mit eigener Data-Abteilung und der Zerspaner mit 80 Leuten leben, was KI angeht, in zwei verschiedenen Ländern.

Warum die Projekte sterben

Über Scheiterquoten kursiert eine Zahl, die man kennen sollte, auch wenn sie mit Vorsicht zu genießen ist: 87 Prozent aller KI-Projekte kämen nie in Produktion, schrieb das Tech-Magazin VentureBeat mit Verweis auf eine oft zitierte Analyse. Die genaue Herkunft ist unscharf, aber die Größenordnung deckt sich mit dem, was ich in eigenen Projekten sehe. Es scheitert selten am Modell. Es scheitert an allem drumherum.

Die Bitkom-Zahlen zeigen, wo genau. 53 Prozent der Unternehmen nennen fehlende KI-Kompetenz im eigenen Team als größte Hürde. 33 Prozent sagen, KI sei teurer geworden als gedacht. Das sind keine Technologieprobleme, das sind Umsetzungsprobleme. Ein Modell trainieren kann heute fast jeder. Es an eine Warenwirtschaft aus 2011 andocken, deren API niemand mehr dokumentiert hat, ist die eigentliche Arbeit.

Ein Modell trainieren kann heute fast jeder. Die eigentliche Arbeit beginnt bei der Schnittstelle, die niemand mehr dokumentiert hat.

Was gute Beratung anders macht

Der Denkfehler steckt schon im Ansatz. Klassische Beratung fragt: Was könnte KI theoretisch für Sie tun? Gute KI Beratung fragt: Welcher konkrete Prozess kostet euch gerade jeden Monat Geld, und lässt der sich in vier Wochen als lauffähiger Prototyp bauen? Der Unterschied klingt klein. In der Praxis ist er der ganze Unterschied.

Ein Beispiel aus unserer Arbeit. Ein Kunde wollte „irgendwas mit KI im Kundenservice“. Statt eines Strategiepapiers haben wir uns die 200 häufigsten Support-Tickets angeschaut. Die Hälfte waren dieselben vier Fragen. Dafür braucht es keine Transformation, dafür braucht es einen Agenten mit Zugriff auf die Auftragsdaten, der in drei Wochen live geht. Der Rest der Tickets blieb bei Menschen, weil er dort auch hingehört.

Das ist der Teil, den kaum jemand ausspricht: Nicht jeder Use Case lohnt sich. Manche Prozesse sind zu selten, zu heikel oder zu sehr Bauchgefühl, als dass sich Automatisierung rechnet. Eine ehrliche Beratung sagt euch das vorher, nicht auf Folie 74. Mir ist ein Berater, der abrät, deutlich lieber als einer, der alles kann.

Woran gute KI-Beratung erkennbar ist

• Am Ende steht ein lauffähiger Prototyp, kein Foliensatz.
• Der Code gehört eurer Firma. Die Modelle laufen wo möglich auf eigener Infrastruktur.
• Euer Team wird befähigt, das System ohne den Berater weiterzuentwickeln.
• Es gibt einen Use Case, den der Berater aktiv ablehnt.
• DSGVO und EU AI Act werden vor Projektstart geklärt, nicht danach.

Gerade für den Mittelstand ist der Besitz-Punkt entscheidend. Der typische Mittelständler hat kein eigenes KI-Team und will auch keins aufbauen. Er will aber auch nicht abhängig sein von einem Anbieter, der monatlich abkassiert und dessen Server irgendwo in den USA stehen. Wer da nur ein Abo verkauft, verkauft eine Abhängigkeit, kein Werkzeug.

Die Uhr läuft schon

Und dann ist da noch der Kalender, den viele Mittelständler bisher ignorieren. Der EU AI Act ist keine ferne Drohung mehr, er greift in Etappen. Seit dem 2. Februar 2025 verlangt Artikel 4 der Verordnung, dass Mitarbeitende, die mit KI arbeiten, ausreichend geschult sind. Ab dem 2. August 2026 gelten die Transparenzpflichten aus Artikel 50: KI-Chatbots und künstlich erzeugte Inhalte müssen gekennzeichnet werden.

EU AI Act: Der Fahrplan für Unternehmen

Wer die Kennzeichnung verschläft, riskiert mehr als eine Rüge. Bei Verstößen gegen die Transparenzpflichten sieht die Verordnung Bußgelder bis zu 15 Millionen Euro oder 3 Prozent des weltweiten Jahresumsatzes vor. Dazu kommen Abmahnungen durch Wettbewerber, die schon ab dem Stichtag möglich sind. Für einen Mittelständler, der KI eher nebenbei eingeführt hat, ist das ein echtes Risiko. Gute Beratung baut Compliance von Anfang an ein, statt sie später teuer nachzurüsten.

Was bleibt

KI-Beratung ist nicht per se sinnlos. Sie wird sinnlos, wenn sie mit dem Deck endet. Der Wert entsteht in den Wochen danach, wenn tatsächlich etwas läuft, das vorher nicht lief. Ein Prototyp, den man anfassen kann, sagt mehr als 90 Folien. Und er hat den angenehmen Nebeneffekt, dass man beim nächsten Schritt genau weiß, was funktioniert und was nur gut geklungen hat.

Der Maschinenbauer aus dem Anfang hat sein PDF am Ende übrigens doch noch benutzt. Als Unterlage unter dem Monitor, damit der nicht wackelt. Immerhin.

Max Anzile ist Gründer von AI Pirates, einer KI-Beratung und Umsetzung aus München, die KI-Systeme baut und übergibt, statt sie zu vermieten. Der Fokus liegt auf DSGVO-konformen Lösungen für den Mittelstand.

Quellen

• Bitkom e. V.: „Künstliche Intelligenz in Deutschland“, Studienberichte 2025 und 2026. bitkom.org
• KfW Research: KI-Adoption im Mittelstand, 2022–2024. kfw.de
• Verordnung (EU) 2024/1689 (KI-Verordnung / EU AI Act), Art. 4, 50, 99.
• VentureBeat: zur oft zitierten Scheiterquote von KI-Projekten (Größenordnung, Primärquelle unscharf).