Ja, du brauchst eine KI-Strategie, sobald mehr als eine KI-Idee um Budget konkurriert. Aber im Mittelstand ist das kein 40-seitiges Papier, sondern eine Roadmap auf ein, zwei Seiten: welche Anwendungsfälle in welcher Reihenfolge kommen, welche Daten und Werkzeuge sie brauchen und wer dafür verantwortlich ist.
Viele Geschäftsführer hören „KI-Strategie“ und denken an Workshops, Reifegradmodelle und einen Foliensatz, der danach in der Schublade liegt. Das brauchst du nicht. Du brauchst Antworten auf ein paar einfache Fragen, die so aufgeschrieben sind, dass jemand danach damit arbeiten kann. In diesem Beitrag geht es darum, was eine KI-Strategie im Mittelstand ist, aus welchen fünf Teilen eine KI-Roadmap besteht, wie eine solche Roadmap für ein Unternehmen mit 50 Mitarbeitenden aussehen kann, wie oft du sie anpasst und warum sie ohne einen ersten laufenden Anwendungsfall nichts wert ist.
Was eine KI-Strategie im Mittelstand ist (und was nicht)
Eine KI-Strategie im Mittelstand ist eine Reihe von Entscheidungen. Welche Probleme wollen wir mit KI lösen? Welches zuerst? Was kaufen wir, was bauen wir? Und wer kümmert sich darum? Mehr nicht. Ein Konzern braucht vielleicht ein eigenes KI-Programm mit Gremien. Ein Unternehmen mit 20, 50 oder 100 Leuten braucht vor allem Klarheit, was als Nächstes passiert.
Der Unterschied zwischen einer Strategie, die hilft, und einer, die nur Zeit kostet, ist meist gut zu erkennen:
| Eine KI-Strategie, die hilft | Eine KI-Strategie, die nur Zeit kostet |
|---|---|
| Ein, zwei Seiten, die jeder in der Führung versteht | Ein Foliensatz, den nach dem Termin niemand mehr öffnet |
| Konkrete Anwendungsfälle mit Prozess und Ansprechperson | Allgemeine Felder wie „KI im Vertrieb“ oder „KI im Marketing“ |
| Eine Reihenfolge, die begründet ist | Eine lange Liste, in der alles gleich wichtig ist |
| Klare Entscheidungen: kaufen, bauen oder lassen | Technologietrends und Marktprognosen |
| Ein Name pro Aufgabe | „Das Team“ oder „die IT“ |
| Ein erster Anwendungsfall, der in den nächsten Monaten live geht | Ein Zielbild für 2030 |
| Wird regelmäßig geprüft und angepasst | Wird einmal geschrieben und abgeheftet |
Eine KI-Strategie ist auch kein Technikprojekt. Die Frage ist nicht, welches Sprachmodell ihr nehmt. Die Frage ist, welche Arbeit in deinem Unternehmen leichter, schneller oder besser werden soll. Das Modell ist ein Werkzeug, und Werkzeuge wechseln. Das Problem, das du lösen willst, bleibt.
Und manchmal ist die ehrliche Antwort: Ihr braucht gerade keine. Wenn es nur eine Idee gibt, ist die Strategie schnell geschrieben. Dann prüfst du diese eine Idee, zum Beispiel mit einem KI-Prozess-Check, und setzt sie um oder lässt sie.
Die fünf Teile einer Roadmap (Ziele, Anwendungsfälle, Daten, Werkzeuge, Verantwortung)
Eine KI-Roadmap für den Mittelstand braucht fünf Teile. Jeder passt auf ein paar Zeilen.
1. Ziele. Was soll in 12 Monaten anders sein? Nicht „Wir nutzen KI“, sondern etwas, das man merkt: Anfragen werden am selben Tag beantwortet. Neue Kolleginnen finden Antworten ohne Rückfrage. Angebote gehen schneller raus. Zwei, drei Ziele reichen. Jedes Ziel braucht eine Zahl, an der du es misst, zum Beispiel die Stunden, die heute in einem Ablauf stecken.
2. Anwendungsfälle. Die Liste der konkreten Ideen, jede in einem Satz, mit dem Prozess und der Person, die heute die Arbeit macht. Dann eine Reihenfolge. Wie du Ideen findest und nach Nutzen, Aufwand und Datenlage bewertest, steht ausführlich im Beitrag KI im Unternehmen einführen. In die Roadmap gehören nicht alle Ideen, sondern die drei bis fünf, die in den nächsten 6–12 Monaten drankommen. Der Rest steht auf einer Liste für später.
3. Daten. Für jeden Anwendungsfall: Welche Daten braucht er, wo liegen sie, und wer gibt den Zugang frei? Das ist der Teil, an dem Roadmaps am häufigsten scheitern, weil er unbequem ist. Ein KI-Assistent ist nur so gut wie die Dokumente, die er findet. Ein Beispiel, wie das gelöst sein kann: Für eine Schule habe ich einen KI-Assistenten gebaut, der ein internes Wiki hinter einem Login und ein juristisches Nachschlagewerk mit rund 1.400 Seiten durchsucht. Das Wiki wird jede Nacht automatisch eingelesen, das Nachschlagewerk nach seinen Abschnitten zerlegt. Niemand muss Inhalte für den Assistenten von Hand pflegen. Solche Fragen klärt die Roadmap vorher: Wo liegt das Wissen, wie aktuell ist es, und wie kommt es regelmäßig ins System?
4. Werkzeuge. Pro Anwendungsfall eine Entscheidung: kaufen, bauen oder lassen. Für allgemeine Textarbeit reicht oft ein Standard-Tool, wann genau, steht im Abschnitt „Kaufen oder bauen?“ im Beitrag zur KI-Einführung. Bauen lohnt sich, wo eure eigenen Daten, Rechte und Abläufe ins Spiel kommen. Und manchmal ist die beste Lösung gar keine KI, sondern ein Formular, eine Vorlage oder eine Regel im Postfach. Wichtig ist, dass die Entscheidung begründet und aufgeschrieben ist. Sonst wird sie bei jedem neuen Angebot eines Anbieters wieder aufgemacht.
5. Verantwortung. Wer entscheidet, wer arbeitet mit, wer betreibt? Es braucht jemanden in der Geschäftsführung, der Prioritäten setzt, und pro Anwendungsfall jemanden im Fachbereich, der den Prozess kennt und sagt, ob das Ergebnis gut genug ist. Dazu gehören Regeln für das Team: welche Tools erlaubt sind und welche Daten hineindürfen. Das ist auch eine Pflicht. Die KI-Verordnung der EU verlangt seit dem 2. Februar 2025 von Unternehmen, die KI-Systeme einsetzen, Maßnahmen zur KI-Kompetenz ihrer Mitarbeitenden. In der aktuellen Fassung sollen sie deren Entwicklung unterstützen, ein bestimmtes Niveau müssen sie nicht garantieren (Artikel 4 und Artikel 113 beim AI Act Service Desk der EU-Kommission, Stand: Oktober 2026). Das ist keine Rechtsberatung. Was genau für dich gilt, klärst du am besten mit deinem Datenschutzbeauftragten oder einer Anwältin.
Beispiel-Roadmap für ein Unternehmen mit 50 Mitarbeitern
Ein ausgedachtes, aber typisches Beispiel: ein Großhändler für Haustechnik mit 50 Mitarbeitenden, ohne eigene IT-Abteilung. Im Vertrieb landen jeden Tag viele Anfragen per E-Mail im Sammelpostfach. Der Innendienst beantwortet immer wieder dieselben Fragen zu Produkten und Lieferzeiten. Angebote werden aus alten Angeboten zusammenkopiert. Und die Geschäftsführung hat schon zwei Angebote von KI-Anbietern auf dem Tisch.
Die Ziele für die nächsten 12 Monate: Anfragen werden am selben Tag der richtigen Person zugeordnet. Der Innendienst findet Produktinformationen, ohne Kollegen zu fragen. Und das Team nutzt KI nach klaren Regeln statt heimlich.
So kann die Roadmap aussehen:
| Zeitraum | Anwendungsfall | Daten | Werkzeug | Verantwortlich |
|---|---|---|---|---|
| Monat 1 | Regeln für KI im Team, Liste der Ideen bewerten | – | Ein Standard-Tool für allgemeine Textarbeit, freigegeben | Geschäftsführung |
| Monat 1–3 | Anfragen im Sammelpostfach sortieren und zuordnen | Sammelpostfach, Kundenstamm aus dem ERP | Bauen: Automatisierung mit einem KI-Schritt | Leitung Vertrieb |
| Monat 4–7 | Chat für Fragen an Produktdatenblätter und Handbücher | Datenblätter der Hersteller, internes Laufwerk | Bauen: Wissensassistent mit Quellenangabe | Leitung Innendienst |
| Monat 8–10 | Angebote aus alten Angeboten vorformulieren | Angebote der letzten Jahre im ERP | Erst prüfen: reicht das Standard-Tool? | Leitung Vertrieb |
| Später | Absatzprognose für den Einkauf | Verkaufsdaten, noch lückenhaft | Erst die Daten aufräumen | Einkauf |
| Laufend | Betrieb der gebauten Systeme | Protokolle, Feedback der Nutzer | Monitoring und Testset | Geschäftsführung mit Dienstleister |
Drei Dinge fallen an dieser Tabelle auf.
Erstens: Der erste gebaute Anwendungsfall ist nicht der spannendste, sondern der sicherste. Das Sortieren der Anfragen kommt oft vor, kostet messbar Zeit, die Daten sind da, und ein Fehler ist verkraftbar, weil ein Mensch die Zuordnung sieht.
Zweitens: Die zwei Angebote der KI-Anbieter sind nicht verschwunden. Sie werden an der Roadmap gemessen. Passt ein Angebot zu einem der Anwendungsfälle und ist der Preis plausibel, kann es der richtige Weg sein. Passt es zu keinem, ist das die Antwort.
Drittens: Die Absatzprognose steht nicht im Papierkorb, sondern unter „Später“. Sie hat einen hohen Nutzen, aber die Daten reichen noch nicht. Die Roadmap sagt, was vorher passieren muss.
Wie oft man sie anpasst
Eine KI-Roadmap ist kein Dokument, das man einmal schreibt. Bei KI ändert sich mehr als bei den meisten anderen Themen: neue Modelle, neue Funktionen in Standard-Tools, neue Preise. Und vor allem ändert sich, was du über deine eigenen Anwendungsfälle lernst.
Ein Rhythmus, der sich bewährt:
- Jeden Monat kurz. Was ist passiert, was hängt, welche neue Idee ist dazugekommen? Eine halbe Stunde reicht, wenn die Roadmap kurz ist. Neue Ideen kommen auf die Liste und werden bewertet, statt sofort ein Projekt zu starten.
- Jedes Quartal gründlich. Stimmen die Ziele noch? Ist der erste Anwendungsfall dort, wo er sein sollte? Kommt der nächste wie geplant, oder hat sich die Reihenfolge verschoben?
- Sofort, wenn sich etwas Großes ändert. Ein neues ERP, eine Übernahme, ein Standard-Tool, das plötzlich kann, wofür ihr bauen wolltet.
Auch die Werkzeuge selbst verlangen Pflege. Modellanbieter nehmen ältere Modelle regelmäßig vom Netz. Bei Anthropic zum Beispiel schlagen Anfragen an ein abgeschaltetes Modell fehl, für öffentlich verfügbare Modelle gibt es mindestens 60 Tage Vorlauf, und Anthropic empfiehlt, neue Modelle lange vor dem Abschaltdatum zu testen (Anthropic, Model deprecations, Stand: Oktober 2026). Für die Roadmap heißt das: Jedes gebaute System braucht jemanden, der das im Blick hat, und ein Testset, gegen das ein neues Modell geprüft wird. Das gehört unter „Verantwortung“, nicht unter „Später“.
Was du bei der Anpassung nicht tun solltest: jeden Monat die Reihenfolge umwerfen, weil ein neues Modell angekündigt wurde. Eine Roadmap gibt Ruhe. Sie hilft, auf neue Möglichkeiten zu reagieren, ohne jedem Trend hinterherzulaufen.
Warum eine Strategie ohne ersten laufenden Anwendungsfall nichts wert ist
Eine KI-Strategie beweist nichts. Erst ein System, das deine Leute jeden Tag nutzen, zeigt, ob deine Annahmen stimmen: ob die Daten gut genug sind, ob das Team das Werkzeug annimmt, ob die gesparte Zeit so groß ist wie gedacht. Bis dahin ist jede Roadmap eine Vermutung.
Deshalb sollte jede KI-Roadmap einen ersten Anwendungsfall haben, der in den nächsten Monaten live geht, nicht irgendwann. Er ist der Test für alles andere. Und er verändert die Roadmap fast immer: Man lernt, wo die Daten lückenhaft sind, wie lange Freigaben dauern und was das Team wirklich braucht.
Ein Beispiel aus der Praxis: Für einen Self-Storage-Anbieter habe ich eine Standortanalyse gebaut. Am Anfang stand ein Workshop zu Anforderungen und Produktvision. Danach kam nicht alles auf einmal, sondern zuerst der Kern: die Wettbewerbsanalyse mit Preisvergleich. Fahrzeiten, Demografie und ein Research-Agent folgten Stufe für Stufe, und jede Stufe war sofort nutzbar. Das Sprachmodell ist modellunabhängig angebunden, es lässt sich also austauschen. Heute dauert eine Standortanalyse Minuten statt Tage.
Im Kleinen ist das genau eine Roadmap: ein Ziel, eine Reihenfolge, Werkzeuge, die sich wechseln lassen, und eine erste Stufe, die schnell lief. Und jede Stufe war für sich nutzbar, bevor die nächste kam.
Das ist auch der Grund, warum ich KI-Beratung und KI-Entwicklung nicht trenne. Eine Roadmap, die jemand schreibt und dann an andere zur Umsetzung übergibt, verliert auf dem Weg viel Wissen. Und Prototypen, die nie in den Betrieb kommen, gibt es genug. Woran das meistens liegt, steht im Beitrag Warum KI-Prototypen nie live gehen. Der beste Beweis, dass eine Strategie stimmt, ist ein System, das läuft.
Liegen bei dir mehrere KI-Ideen auf dem Tisch und niemand im Haus, der sie ordnet? Genau dafür gibt es die KI-Strategie-Begleitung: Jeden Monat mit einem festen Teil meiner Zeit priorisiere ich mit dir die Anwendungsfälle, entscheide mit dir über Kaufen oder Bauen und halte die Roadmap aktuell. Und was sich rechnet, baue ich anschließend selbst, bis es läuft. Willst du wissen, was in deine Roadmap gehört? Dann Projekt anfragen.