KI-Strategie im Mittelstand: Was wirklich entschieden werden muss

Die meisten KI-Strategien, die wir im Mittelstand sehen, sind ordentlich formatierte PDFs mit zwei Dutzend Folien — und drei offenen Entscheidungen, die niemand getroffen hat. Genau an diesen Entscheidungen entscheidet sich später, ob das Unternehmen in drei Jahren operative Vorteile aus KI zieht oder eine Sammlung unfertiger Pilotprojekte verwaltet.

Eine KI-Strategie ist keine Vision. Sie ist eine Reihe von Festlegungen, die Geld, Personal und Aufmerksamkeit binden. Wer diese Festlegungen scheut, bekommt am Ende beides: eine Strategie und kein Ergebnis.

Warum KI-Strategien selten am Papier scheitern

In den Strategiepapieren, die uns Kunden zur Zweitmeinung vorlegen, fehlt selten die Marktanalyse. Es fehlt selten der Hinweis auf Anwendungsfälle. Was fehlt, sind belastbare Antworten auf vier Fragen: Wer entscheidet bei welchem Budget? Welcher Geschäftsprozess ist als erster dran? Wer trägt die Verantwortung im operativen Tagesgeschäft? Und woran messen wir in zwölf Monaten, ob die Strategie funktioniert hat?

Diese Fragen sind unbequem, weil sie Festlegungen erzwingen. Eine Strategie, die auf alles eine Antwort gibt, gibt auf nichts eine gute. Drei klare Entscheidungen schlagen zwanzig vage Empfehlungen — das ist die einzige Faustregel, die in unserer Beratungspraxis stabil geblieben ist. Wer diese Festlegungen scheut, landet bei den typischen Mustern, an denen KI-Projekte im Mittelstand scheitern.

Entscheidung 1: Welche Prozesse bekommen Priorität?

Im Mittelstand gibt es selten weniger als zwölf plausible Anwendungsfelder für KI. Im Vertrieb, im Service, in der Finanzbuchhaltung, im Einkauf, in der Produktion. Wer alle parallel angeht, bekommt überall halbfertige Lösungen. Wer keinen anfasst, verliert zwei Jahre Lernkurve.

Die richtige Priorisierung folgt selten dem höchsten erwarteten ROI. Sie folgt der Frage, wo das Unternehmen heute schon belastbare Daten, klar definierte Prozesse und engagierte Fachverantwortliche hat. Ein KI-Projekt im Servicebereich, in dem die Tickets in einem strukturierten System landen, ist erfolgsversprechender als ein Projekt in der Produktion, in dem Maschinendaten halb manuell in Excel laufen — selbst wenn die Produktion theoretisch das größere Sparpotenzial bietet.

Konkret heißt das: Maximal drei Anwendungsfelder im ersten Jahr. Davon eins als sichtbares Leuchtturmprojekt, eins als operativ-unauffälliger Effizienzhebel, eins als bewusstes Lernprojekt mit höherem Risiko. Diese Dreierkombination liefert Geschwindigkeit, Akzeptanz und Lerneffekt zugleich.

Entscheidung 2: Make, Buy oder Plattform?

Drei Wege sind heute realistisch — und jeder kostet anders. Erstens: eine Standardlösung kaufen, die ein Anbieter speziell für einen Use-Case anbietet (Beispiele aus dem Markt: KI-gestützte Helpdesk-Plattformen, generative Marketing-Tools, branchenspezifische Service-Bots). Zweitens: eine Plattform einkaufen — meist Microsoft Copilot, Google Workspace mit Gemini oder ein vergleichbares Bündel — und auf dieser Plattform die eigenen Anwendungsfälle konfigurieren. Drittens: eine eigene Lösung bauen, in der Regel auf Basis kommerzieller Modelle (OpenAI, Anthropic) oder Open-Source-Komponenten.

Welcher Weg sinnvoll ist, hängt an drei Variablen: dem Grad der Differenzierung, den Datenschutz-Anforderungen und der internen IT-Kompetenz. Ein Unternehmen, das KI als Kommodität betrachtet — also als Werkzeug, nicht als Wettbewerbsvorteil — fährt mit einer Plattform-Strategie am besten. Ein Unternehmen, das ein eigenes Geschäftsmodell auf KI aufbaut, wird ohne Eigenentwicklung mittelfristig nicht auskommen.

Die häufigste Fehlentscheidung in dieser Frage: aus IT-Stolz selbst bauen, was es als Standard längst gibt. Die zweithäufigste: eine Plattform kaufen und dann erwarten, dass sich Anwendungsfälle von selbst ergeben.

Entscheidung 3: Wer trägt operativ die Verantwortung?

Eine KI-Strategie ohne benannte Ergebnisverantwortliche ist eine Wunschliste. Im Mittelstand sehen wir vier Muster, von denen drei meistens funktionieren und eines fast nie.

Funktioniert oft: Eine Person aus der zweiten Führungsebene mit explizitem Mandat, fünf bis zehn Stunden pro Woche, direktem Bericht an die Geschäftsführung. Sie ist nicht Tech-Expertin, sondern Übersetzerin zwischen Fachbereich, IT und externen Partnern.

Funktioniert ebenfalls: Ein interdisziplinäres Kernteam von drei bis fünf Personen, das gemeinsam jeden Use-Case durchträgt. Voraussetzung: stabile Personen, keine Rotation alle drei Monate.

Funktioniert mit Vorbehalt: Ein externer Beratungspartner, der temporär als Programmleiter agiert — sinnvoll im ersten Jahr, gefährlich als Dauerlösung.

Funktioniert fast nie: “Die IT macht das”. KI-Projekte sind Prozessprojekte, keine IT-Projekte. Wenn die fachliche Verantwortung in der IT versickert, verschiebt sich der Fokus von Geschäftswert zu technischem Funktionieren.

Entscheidung 4: Welches Budget — und woran wird es gemessen?

Ein realistisches Budget für ein mittelständisches KI-Programm im ersten Jahr bewegt sich in unserer Erfahrung zwischen 80 und 250 k EUR. Darunter wird es Pilotcharakter, darüber wird die Geschwindigkeit zum eigentlichen Risiko. Diese Summe deckt: Lizenzkosten, externe Implementierungsleistung, interne Freistellung, Schulung der Mitarbeiter und einen Puffer von etwa 20 Prozent für das Lernen aus dem ersten Anlauf.

Wichtiger als die Zahl ist die Logik dahinter. Ein KI-Budget sollte nicht in einem CapEx-Modell laufen, das Festlegungen für drei Jahre erzwingt. Realistisch sind rollierende Halbjahres-Budgets mit klaren Stop-or-Go-Punkten — bei jedem Stop wird offen entschieden, ob das Programm verlängert, angepasst oder beendet wird. Diese Disziplin verhindert die häufigste Form der Verschwendung: das Projekt, das niemand mehr will, das aber niemand stoppt, weil es schon so viel gekostet hat.

Gemessen wird in zwei Dimensionen: harte Kennzahlen pro Use-Case (Bearbeitungszeit, Fehlerquote, Durchsatz, Kundenkontaktqualität) und eine weiche Kennzahl auf Programmebene (Anteil der Mitarbeiter im definierten Bereich, die KI-Werkzeuge im Tagesgeschäft tatsächlich nutzen). Die zweite Kennzahl wird häufig vergessen — sie ist aber der bessere Frühindikator für nachhaltigen Nutzen.

Entscheidung 5: Welcher Umgang mit Daten und Risiken?

Datenschutz, Urheberrecht, Modell-Halluzinationen und Mitarbeiter-Akzeptanz sind keine Compliance-Anhängsel. Sie sind strategische Entscheidungen, weil sie über den Einsatzraum bestimmen.

Drei Festlegungen sollten am Anfang stehen:

1. Welche Daten dürfen welches Modell sehen? Ein klares Schema, idealerweise auf einer A4-Seite, das Geschäftsgeheimnisse, Personendaten und unkritische Inhalte unterscheidet — und für jede Klasse erlaubte Tools benennt.
2. Welche Entscheidungen darf eine KI eigenständig treffen — und welche niemals? Eine Liste, die unterscheidet zwischen Vorschlag, Vorbereitung und Vollzug. Im Mittelstand empfehlen wir konservativ zu starten und nach jedem Halbjahr neu zu bewerten.
3. Wie sieht ein Eskalations- und Korrekturpfad aus? Was passiert, wenn ein KI-System einen Fehler produziert, der einen Kunden trifft? Wer entscheidet wann über eine Abschaltung oder Anpassung?

Diese Festlegungen ersparen später viele Diskussionen, die immer dann auftauchen, wenn ein System produktiv läuft und die ersten Edge-Cases sichtbar werden.

Eine tragfähige 12-Monats-Roadmap

Eine umsetzbare Roadmap im Mittelstand sieht selten so aus, wie sie in Beratungs-Templates beschrieben wird. Sie ist deutlich kürzer, schaut nicht weiter als zwölf Monate voraus und hat eingebaute Kontrollpunkte.

Eine realistische Form: Monate 1–3 stehen für eine ehrliche Bestandsaufnahme der drei priorisierten Anwendungsfelder, parallel laufen erste Lerntools im breiten Mitarbeiterkreis (z.B. eine zentral lizenzierte Plattformlösung). Monate 4–6 implementieren den ersten produktiven Use-Case mit messbarem Vorher/Nachher. Monate 7–9 erweitern auf den zweiten Use-Case und stabilisieren den ersten. Monate 10–12 enthalten das ehrliche Halbjahres-Review und die Entscheidung über die nächsten zwölf Monate.

Diese Form ist langsamer, als viele Geschäftsführer es vor dem ersten Pilotprojekt hören wollen. Sie ist aber die einzige, in der nach 24 Monaten messbare Effekte stehen — und nicht ein dreistelliger Betrag in Beratungs- und Lizenzkosten ohne Gegenleistung.

Was du tun kannst, bevor du eine Strategie schreibst

Bevor das nächste Strategie-PDF entsteht, lohnen sich drei Stunden Reflexion mit der Geschäftsleitung: Welche drei operativen Probleme würdest du heute sofort lösen, wenn du ein neues Werkzeug zur Hand hättest? Welcher dieser drei Anwendungsfälle hat die saubersten Daten? Wer in deinem Haus brennt für das Thema?

Wer auf diese drei Fragen klare Antworten geben kann, hat den Kern der Strategie bereits formuliert. Alles weitere ist Operationalisierung.

Wenn du diese Antworten in einem strukturierten Format ausarbeiten möchtest — mit ehrlicher Außensicht und ohne Anbieter-Interesse an einem konkreten Tool —, sprich uns an. Ein kurzes Strategiegespräch klärt in der Regel schneller, ob dein nächster Schritt ein Workshop, ein Pilot oder zunächst eine Daten-Inventur ist.