Unternehmen

KI im Mittelstand: Wie KMU die richtige KI-Lösung finden und teure Fehler vermeiden

Ob Einkauf, Controlling oder Service Desk: KI kann heute in nahezu jedem Bereich mittelständischer Unternehmen zum Hebel für Produktivität werden. Doch was bringt echten Fortschritt und was nur Komplexität? Nur wer Klarheit über Ziele, Prozesse und Datenlage hat, findet die passende Lösung. Eine Analyse jenseits des Hypes.
10.06.2025 12:43
Lesezeit: 4 min
KI im Mittelstand: Wie KMU die richtige KI-Lösung finden und teure Fehler vermeiden
Viele KMU investieren in KI-Software (iStock/ Wasan Tita). Foto: Wasan Tita

Der Markt für KI-basierte Software boomt. Von Vertriebsautomatisierung bis vorausschauender Wartung reichen die Einsatzfelder, die kleinen und mittleren Unternehmen (KMU) heute offenstehen.

Laut einer Erhebung des Netzwerks Mittelstand-Digital, einer Förderinitiative des Bundesministeriums für Wirtschaft und Energie (BMWE), planen rund 60 Prozent der mittelständischen Unternehmen in Deutschland, bis Ende 2026 mindestens eine auf Künstlicher Intelligenz gestützte Softwarelösung in ihren Betrieb zu integrieren. Die Zahlen stammen aus einer Befragung, die 2024 im Rahmen regionaler Kompetenzzentren durchgeführt wurde.

Die Studie zeigt auch: Rund 42 Prozent der Unternehmen sehen fehlendes Know-how als größte Hürde bei der Einführung von KI, dicht gefolgt von unklaren Rechtsfragen (38 Prozent) und fehlender Datenqualität (35 Prozent). Nur jedes fünfte Unternehmen fühlt sich laut Mittelstand-Digital derzeit gut auf die Auswahl und Integration vorbereitet. Entsprechend hoch ist das Risiko, in teure Insellösungen zu investieren, die weder skalieren noch nachhaltig wirken.

SAP-CSO Kask: “Es geht um Produktivitätssprünge im Tagesgeschäft”

Auch bei SAP in Walldorf sieht man das so. In einem seiner seltenen Interviews erklärte Sean Kask, Chief AI Strategy Officer bei SAP, kürzlich, warum jetzt der richtige Moment ist, KI strategisch in die Kernprozesse zu integrieren: „KI wird ganze Branchen umwälzen. Deshalb ist der richtige Zeitpunkt, damit anzufangen, genau jetzt“, so Kask in einem Gespräch mit der NZZ.

Unternehmen, die KI nicht in ihre Kernprozesse integrierten, würden den Anschluss verlieren. SAP habe allein 2024 rund hundert neue generative KI-Funktionen in seine Produktwelt integriert. „Dabei geht es nicht um aufwändige Sonderlösungen, sondern um konkrete Produktivitätssprünge im Tagesgeschäft“, so Kask weiter.

„Ein Beispiel ist unser KI-Copilot Joule, der bei SAP inzwischen auch in der Cloud-Migration zum Einsatz kommt“, erklärt er. „Die KI ist in der Lage, auf Basis von mehr als 200.000 SAP-Hilfedokumenten und 350 Millionen Zeilen Code Vorschläge zu machen, Prozesse zu erklären oder gar Programmcode zu schreiben.“ Für Kask steht fest: „KI berührt jeden Unternehmensprozess. Wer jetzt nicht investiert, wird den Wettbewerbsvorsprung anderer kaum einholen.“

Bedarfsanalyse, Datenlage, Ziele: Die Basis muss stimmen

Tatsächlich liegt der größte Hebel für KMU nicht im visionären Einsatz autonomer Systeme, sondern in der Entlastung repetitiver Routinen. Ob Lieferscheine automatisiert eingelesen oder Onboardingprozesse beschleunigt werden, viele Anwendungsszenarien zeigen messbare Wirkung. Voraussetzung ist jedoch, dass die Lösung exakt auf die operativen Bedarfe abgestimmt ist. “KI ist keine separate Lösung”, betont SAP-Experte Kask, “sondern Teil unserer Produkte.”

Eine zentrale Rolle spielt dabei die Bedarfsanalyse. “Der ideale Prozess beginnt mit einer sorgfältigen Analyse von Problemfeldern und Potenzialen”, sagt Laura Bies vom Mittelstand-Digital Zentrum Berlin. “Nur wer genau weiß, wo die größten Reibungsverluste liegen und welche Daten zur Verfügung stehen, kann überhaupt sinnvoll KI einsetzen.”

Bies weiß, dass vor allem standardisierte, datenreiche Prozesse geeignet seien. “Eine gute Orientierung bieten sogenannte Effort-Impact-Matrizen. Sie zeigen, welche Maßnahmen mit wenig Aufwand große Wirkung entfalten könnten.” Gemeinsam mit Sarah Rübel, Projektleiterin bei Mittelstand-Digital, empfiehlt Bies ihren Mittelstandkunden eine systematische Vorgehensweise in vier Schritten:

  1. Anwendungsfall identifizieren,
  2. Datenqualität prüfen,
  3. Ziel definieren,
  4. Anbieter sondieren.

“Viele KMU suchen zu früh nach Tools und zu spät nach Zielen”, so Rübel. “Das führt häufig zu Frustration.”

KI-Readiness richtig einschätzen

Ein bewährter Einstieg führt über Pilotprojekte. “Sie helfen nicht nur, technische Hürden zu erkennen, sondern auch Vertrauen im Team aufzubauen”, erklärt Rübel. Die Projektziele müssen dabei messbar und realistisch sein. Sogenannte SMART-Kriterien, also Kriterien, die spezifisch, messbar, erreichbar, relevant und terminiert sind, bilden dafür die Grundlage.

Auch in Kaiserslautern arbeiten Experten daran, KMU auf genau diesem Weg zu unterstützen. Das Mittelstand 4.0-Kompetenzzentrum Kaiserslautern ist Teil der bundesweiten Förderinitiative Mittelstand-Digital und berät kleine und mittlere Unternehmen bei der digitalen Transformation, mit einem Fokus auf den praktischen Einsatz von KI.

Die Initiative bietet unter anderem Workshops, Projektbegleitungen und Tools wie den sogenannten KI-Readiness-Check (KIRC) an, mit dem Unternehmen ihre technologische und organisatorische Ausgangslage realistisch einschätzen können.

Zwei (erfolgreiche) Praxisbeispiele aus Handwerk und Industrie

Wie erfolgreiche KI-Projekte in mittelständischen Unternehmen gelingen können, zeigen zwei Praxisbeispiele aus Rheinland-Pfalz. Sie stammen aus dem Netzwerk von Mittelstand-Digital und wurden im Rahmen des Mittelstand-Digital Zentrums Kaiserslautern begleitet. Die dort entwickelten Konzepte zeigen, wie auch kleine Betriebe mit gezielter Beratung zu funktionierenden Anwendungen kommen.

Ein Beispiel dafür ist die Tischlerei Kasper aus Rhens, ein Zehn-Mann-Betrieb im Handwerk. Der Zehn-Mann-Betrieb entwickelte mit Unterstützung des Kompetenzzentrums eine digitale Wissensdatenbank. KI-basierte Software verschlagwortet Videoanleitungen automatisch und macht sie auffindbar. “So sichern wir das Know-how unserer älteren Kollegen für die nächste Generation", heißt es aus dem Betrieb. Das Ergebnis: weniger Einarbeitungszeit, geringere Qualifikationslücken.

Auch in der industriellen Fertigung finden sich zahlreiche Anwendungsfälle. Die Helmut Meeth GmbH in Wittlich automatisierte die Qualitätskontrolle bei Glasscheiben mithilfe von Bilderkennung. “Zuvor war das eine ermüdende Routinearbeit”, sagt der Projektleiter. “Jetzt fokussieren sich die Mitarbeiter auf Sonderfälle und Auswertungen.”

Mitarbeitende einbinden, statt überrollen

Neben Technologie und Prozessen spielt der Mensch eine zentrale Rolle. „Will man KI am Arbeitsplatz gut gestalten, heißt das erstmal die Arbeitssituation der Beschäftigten wirklich verstehen“, sagt Sabine Pfeiffer vom Nuremberg Campus of Technology (NCT Nürnberg). Die Soziologin forscht seit vielen Jahren zur Digitalisierung im Mittelstand, insbesondere zu den sozialen Auswirkungen technischer Innovationen.

Im Interview mit dem Mittelstand-Digital Zentrum Kaiserslautern aus dem Jahr 2024 macht Pfeiffer klar, worauf es in der Praxis tatsächlich ankommt: „Je früher Mitarbeitende eingebunden werden, desto besser gelingt die Umsetzung.“ In einer aktuellen Befragung der Initiative wünschten sich 74 Prozent der Beschäftigten mehr Mitspracherecht bei KI-Projekten. „KI darf nicht als Bedrohung wahrgenommen werden, sondern als Entlastung. Dafür braucht es Erklärung, Partizipation und Transparenz.“

Für Pfeiffer ist außerdem die Kommunikation maßgeblich. „Wer mit den Menschen spricht statt über sie, kann Widerstände abbauen und Offenheit schaffen. Gerade in kleineren Betrieben ist das entscheidend.“

Strukturierter Auswahlprozess statt Tool-Hopping

Laut dem Kompetenzzentrum Kaiserslautern führt der Weg zu erfolgreichen KI-Lösungen über die Beantwortung von sechs zentralen Fragen, die im Rahmen des KI-Readiness-Checks (KIRC) entwickelt wurden.

  1. Welches Problem soll gelöst werden?
  2. Welche Daten stehen dafür zur Verfügung?
  3. Welche Abläufe lassen sich realistisch automatisieren?
  4. Wie viel Ressourcen sind intern verfügbar?
  5. Wie lassen sich Mitarbeitende einbinden und schulen?
  6. Welche Anbieter passen zur IT-Landschaft und Unternehmenskultur?

“Nicht jedes Tool muss perfekt sein, aber es muss zur konkreten Herausforderung passen”, heißt es im Leitfaden des Kompetenzzentrums.

Warum KMU die Spielregeln für erfolgreiche KI setzen

KI ist kein Plug-and-Play-Werkzeug, sondern ein lernendes System. Fehlende Datenqualität, unklare Zielvorgaben oder mangelhafte Schnittstellen können schnell zur Kostenfalle werden. “Der Reifegrad der internen Prozesse ist oft entscheidender als das Tool selbst”, sagt Sabine Pfeiffer.

Am Ende entscheidet deshalb nicht das Technologie-Versprechen, sondern deren Passung zum Betrieb über den Erfolg von Digitalisierung in KMU, das zeigen zahlreiche Projekte: Die besten Ergebnisse liefern Vorhaben, die aus einem klaren Bedarf entstehen, mit realistischen Zielen starten und die Menschen im Unternehmen konsequent mitnehmen.

“KI löst keine Strategieprobleme. Aber sie kann helfen, gute Prozesse noch besser zu machen”, weiß auch SAP-Manager Sean Kask. Für mittelständische Unternehmen bedeutet das: Wer weiß, was er braucht und was nicht, findet auch die passende KI-Lösung.

Mehr zum Thema
Bleiben Sie über das Thema dieses Artikels auf dem Laufenden Klicken Sie auf [+], um eine E-Mail zu erhalten, sobald wir einen neuen Artikel mit diesem Tag veröffentlichen
Anzeige
DWN
Technologie
Technologie Die Refurbed-Checkliste: 5 Qualitätsstandards, die herkömmliche gebrauchte iPhones nicht erfüllen

Preisbewusstsein, Nachhaltigkeit und Qualität sind die Dinge, die für die meisten heutzutage beim Kauf von Smartphones im Mittelpunkt...

 

X

DWN-Wochenrückblick

Weniger E-Mails, mehr Substanz: Der DWN-Wochenrückblick liefert 1x/Woche die wichtigsten Themen kompakt als Podcast. Für alle, deren Postfach überläuft.

E-mail: *

Ich habe die Datenschutzerklärung sowie die AGB gelesen und erkläre mich einverstanden.

DWN
Politik
Politik Reform Heizungsgesetz: Schutz vor steigenden Mietnebenkosten unklar
25.02.2026

Die Reform des Heizungsgesetzes sorgt für Unsicherheit: Welche Kosten kommen auf Mieter und Eigentümer zu? Details zum Schutz vor...

DWN
Wirtschaft
Wirtschaft Stromausfälle in der Ukraine: Industrie und Wirtschaft geraten ins Stocken
25.02.2026

Die anhaltenden Stromausfälle verschärfen die wirtschaftliche Krise in der Ukraine und setzen Industrie, Staatsfinanzen und Wachstum...

DWN
Politik
Politik Neuwahl in Brandenburg: Stopp von Bürgermeisterwahl - Post weist Vorwürfe zurück
25.02.2026

Der erste Durchgang einer Bürgermeisterwahl in Brandenburg wird annulliert. Im Raum steht der Vorwurf der Wahlfälschung im Zusammenhang...

DWN
Technologie
Technologie Studie: KI-generierte Gesichter tricksen Experten und Super Recognizer aus
25.02.2026

Selbst Experten für Gesichtserkennung können KI-generierte Gesichter kaum von echten unterscheiden. Wie schnitten sie im Vergleich zu...

DWN
Wirtschaft
Wirtschaft Stellenabbau: Autoindustrie und Maschinenbau drücken Arbeitsmarkt
25.02.2026

15.000 Jobs gehen jeden Monat in der Industrie verloren. Besonders betroffen sind Sparten, in denen Deutschland traditionell stark war. Der...

DWN
Wirtschaft
Wirtschaft Expansion in den militärischen Schiffbau: Neue Impulse für die Rheinmetall-Aktie
25.02.2026

Rheinmetall treibt seine Expansion im europäischen Verteidigungsmarkt voran und erweitert sein industrielles Profil deutlich. Wird die...

DWN
Politik
Politik Antrittsbesuch: Merz wirbt in China für Regierungskonsultationen
25.02.2026

Der Bundeskanzler macht sich bei seiner ersten China-Reise für Kooperation mit China stark. Ein seit einigen Jahren eingeschlafenes...

DWN
Technologie
Technologie Anthropic baut KI-Strategie aus: Chatbot Claude nun auch im Finanz- und HR-Sektor
25.02.2026

Anthropic treibt die Kommerzialisierung seiner KI-Modelle voran und rückt mit neuen Anwendungen für Finanzdienstleister und...