Unternehmen

KI im Mittelstand: Wie KMU die richtige KI-Lösung finden und teure Fehler vermeiden

Ob Einkauf, Controlling oder Service Desk: KI kann heute in nahezu jedem Bereich mittelständischer Unternehmen zum Hebel für Produktivität werden. Doch was bringt echten Fortschritt und was nur Komplexität? Nur wer Klarheit über Ziele, Prozesse und Datenlage hat, findet die passende Lösung. Eine Analyse jenseits des Hypes.
10.06.2025 12:43
Lesezeit: 4 min
KI im Mittelstand: Wie KMU die richtige KI-Lösung finden und teure Fehler vermeiden
Viele KMU investieren in KI-Software (iStock/ Wasan Tita). Foto: Wasan Tita

Der Markt für KI-basierte Software boomt. Von Vertriebsautomatisierung bis vorausschauender Wartung reichen die Einsatzfelder, die kleinen und mittleren Unternehmen (KMU) heute offenstehen.

Laut einer Erhebung des Netzwerks Mittelstand-Digital, einer Förderinitiative des Bundesministeriums für Wirtschaft und Energie (BMWE), planen rund 60 Prozent der mittelständischen Unternehmen in Deutschland, bis Ende 2026 mindestens eine auf Künstlicher Intelligenz gestützte Softwarelösung in ihren Betrieb zu integrieren. Die Zahlen stammen aus einer Befragung, die 2024 im Rahmen regionaler Kompetenzzentren durchgeführt wurde.

Die Studie zeigt auch: Rund 42 Prozent der Unternehmen sehen fehlendes Know-how als größte Hürde bei der Einführung von KI, dicht gefolgt von unklaren Rechtsfragen (38 Prozent) und fehlender Datenqualität (35 Prozent). Nur jedes fünfte Unternehmen fühlt sich laut Mittelstand-Digital derzeit gut auf die Auswahl und Integration vorbereitet. Entsprechend hoch ist das Risiko, in teure Insellösungen zu investieren, die weder skalieren noch nachhaltig wirken.

SAP-CSO Kask: “Es geht um Produktivitätssprünge im Tagesgeschäft”

Auch bei SAP in Walldorf sieht man das so. In einem seiner seltenen Interviews erklärte Sean Kask, Chief AI Strategy Officer bei SAP, kürzlich, warum jetzt der richtige Moment ist, KI strategisch in die Kernprozesse zu integrieren: „KI wird ganze Branchen umwälzen. Deshalb ist der richtige Zeitpunkt, damit anzufangen, genau jetzt“, so Kask in einem Gespräch mit der NZZ.

Unternehmen, die KI nicht in ihre Kernprozesse integrierten, würden den Anschluss verlieren. SAP habe allein 2024 rund hundert neue generative KI-Funktionen in seine Produktwelt integriert. „Dabei geht es nicht um aufwändige Sonderlösungen, sondern um konkrete Produktivitätssprünge im Tagesgeschäft“, so Kask weiter.

„Ein Beispiel ist unser KI-Copilot Joule, der bei SAP inzwischen auch in der Cloud-Migration zum Einsatz kommt“, erklärt er. „Die KI ist in der Lage, auf Basis von mehr als 200.000 SAP-Hilfedokumenten und 350 Millionen Zeilen Code Vorschläge zu machen, Prozesse zu erklären oder gar Programmcode zu schreiben.“ Für Kask steht fest: „KI berührt jeden Unternehmensprozess. Wer jetzt nicht investiert, wird den Wettbewerbsvorsprung anderer kaum einholen.“

Bedarfsanalyse, Datenlage, Ziele: Die Basis muss stimmen

Tatsächlich liegt der größte Hebel für KMU nicht im visionären Einsatz autonomer Systeme, sondern in der Entlastung repetitiver Routinen. Ob Lieferscheine automatisiert eingelesen oder Onboardingprozesse beschleunigt werden, viele Anwendungsszenarien zeigen messbare Wirkung. Voraussetzung ist jedoch, dass die Lösung exakt auf die operativen Bedarfe abgestimmt ist. “KI ist keine separate Lösung”, betont SAP-Experte Kask, “sondern Teil unserer Produkte.”

Eine zentrale Rolle spielt dabei die Bedarfsanalyse. “Der ideale Prozess beginnt mit einer sorgfältigen Analyse von Problemfeldern und Potenzialen”, sagt Laura Bies vom Mittelstand-Digital Zentrum Berlin. “Nur wer genau weiß, wo die größten Reibungsverluste liegen und welche Daten zur Verfügung stehen, kann überhaupt sinnvoll KI einsetzen.”

Bies weiß, dass vor allem standardisierte, datenreiche Prozesse geeignet seien. “Eine gute Orientierung bieten sogenannte Effort-Impact-Matrizen. Sie zeigen, welche Maßnahmen mit wenig Aufwand große Wirkung entfalten könnten.” Gemeinsam mit Sarah Rübel, Projektleiterin bei Mittelstand-Digital, empfiehlt Bies ihren Mittelstandkunden eine systematische Vorgehensweise in vier Schritten:

  1. Anwendungsfall identifizieren,
  2. Datenqualität prüfen,
  3. Ziel definieren,
  4. Anbieter sondieren.

“Viele KMU suchen zu früh nach Tools und zu spät nach Zielen”, so Rübel. “Das führt häufig zu Frustration.”

KI-Readiness richtig einschätzen

Ein bewährter Einstieg führt über Pilotprojekte. “Sie helfen nicht nur, technische Hürden zu erkennen, sondern auch Vertrauen im Team aufzubauen”, erklärt Rübel. Die Projektziele müssen dabei messbar und realistisch sein. Sogenannte SMART-Kriterien, also Kriterien, die spezifisch, messbar, erreichbar, relevant und terminiert sind, bilden dafür die Grundlage.

Auch in Kaiserslautern arbeiten Experten daran, KMU auf genau diesem Weg zu unterstützen. Das Mittelstand 4.0-Kompetenzzentrum Kaiserslautern ist Teil der bundesweiten Förderinitiative Mittelstand-Digital und berät kleine und mittlere Unternehmen bei der digitalen Transformation, mit einem Fokus auf den praktischen Einsatz von KI.

Die Initiative bietet unter anderem Workshops, Projektbegleitungen und Tools wie den sogenannten KI-Readiness-Check (KIRC) an, mit dem Unternehmen ihre technologische und organisatorische Ausgangslage realistisch einschätzen können.

Zwei (erfolgreiche) Praxisbeispiele aus Handwerk und Industrie

Wie erfolgreiche KI-Projekte in mittelständischen Unternehmen gelingen können, zeigen zwei Praxisbeispiele aus Rheinland-Pfalz. Sie stammen aus dem Netzwerk von Mittelstand-Digital und wurden im Rahmen des Mittelstand-Digital Zentrums Kaiserslautern begleitet. Die dort entwickelten Konzepte zeigen, wie auch kleine Betriebe mit gezielter Beratung zu funktionierenden Anwendungen kommen.

Ein Beispiel dafür ist die Tischlerei Kasper aus Rhens, ein Zehn-Mann-Betrieb im Handwerk. Der Zehn-Mann-Betrieb entwickelte mit Unterstützung des Kompetenzzentrums eine digitale Wissensdatenbank. KI-basierte Software verschlagwortet Videoanleitungen automatisch und macht sie auffindbar. “So sichern wir das Know-how unserer älteren Kollegen für die nächste Generation", heißt es aus dem Betrieb. Das Ergebnis: weniger Einarbeitungszeit, geringere Qualifikationslücken.

Auch in der industriellen Fertigung finden sich zahlreiche Anwendungsfälle. Die Helmut Meeth GmbH in Wittlich automatisierte die Qualitätskontrolle bei Glasscheiben mithilfe von Bilderkennung. “Zuvor war das eine ermüdende Routinearbeit”, sagt der Projektleiter. “Jetzt fokussieren sich die Mitarbeiter auf Sonderfälle und Auswertungen.”

Mitarbeitende einbinden, statt überrollen

Neben Technologie und Prozessen spielt der Mensch eine zentrale Rolle. „Will man KI am Arbeitsplatz gut gestalten, heißt das erstmal die Arbeitssituation der Beschäftigten wirklich verstehen“, sagt Sabine Pfeiffer vom Nuremberg Campus of Technology (NCT Nürnberg). Die Soziologin forscht seit vielen Jahren zur Digitalisierung im Mittelstand, insbesondere zu den sozialen Auswirkungen technischer Innovationen.

Im Interview mit dem Mittelstand-Digital Zentrum Kaiserslautern aus dem Jahr 2024 macht Pfeiffer klar, worauf es in der Praxis tatsächlich ankommt: „Je früher Mitarbeitende eingebunden werden, desto besser gelingt die Umsetzung.“ In einer aktuellen Befragung der Initiative wünschten sich 74 Prozent der Beschäftigten mehr Mitspracherecht bei KI-Projekten. „KI darf nicht als Bedrohung wahrgenommen werden, sondern als Entlastung. Dafür braucht es Erklärung, Partizipation und Transparenz.“

Für Pfeiffer ist außerdem die Kommunikation maßgeblich. „Wer mit den Menschen spricht statt über sie, kann Widerstände abbauen und Offenheit schaffen. Gerade in kleineren Betrieben ist das entscheidend.“

Strukturierter Auswahlprozess statt Tool-Hopping

Laut dem Kompetenzzentrum Kaiserslautern führt der Weg zu erfolgreichen KI-Lösungen über die Beantwortung von sechs zentralen Fragen, die im Rahmen des KI-Readiness-Checks (KIRC) entwickelt wurden.

  1. Welches Problem soll gelöst werden?
  2. Welche Daten stehen dafür zur Verfügung?
  3. Welche Abläufe lassen sich realistisch automatisieren?
  4. Wie viel Ressourcen sind intern verfügbar?
  5. Wie lassen sich Mitarbeitende einbinden und schulen?
  6. Welche Anbieter passen zur IT-Landschaft und Unternehmenskultur?

“Nicht jedes Tool muss perfekt sein, aber es muss zur konkreten Herausforderung passen”, heißt es im Leitfaden des Kompetenzzentrums.

Warum KMU die Spielregeln für erfolgreiche KI setzen

KI ist kein Plug-and-Play-Werkzeug, sondern ein lernendes System. Fehlende Datenqualität, unklare Zielvorgaben oder mangelhafte Schnittstellen können schnell zur Kostenfalle werden. “Der Reifegrad der internen Prozesse ist oft entscheidender als das Tool selbst”, sagt Sabine Pfeiffer.

Am Ende entscheidet deshalb nicht das Technologie-Versprechen, sondern deren Passung zum Betrieb über den Erfolg von Digitalisierung in KMU, das zeigen zahlreiche Projekte: Die besten Ergebnisse liefern Vorhaben, die aus einem klaren Bedarf entstehen, mit realistischen Zielen starten und die Menschen im Unternehmen konsequent mitnehmen.

“KI löst keine Strategieprobleme. Aber sie kann helfen, gute Prozesse noch besser zu machen”, weiß auch SAP-Manager Sean Kask. Für mittelständische Unternehmen bedeutet das: Wer weiß, was er braucht und was nicht, findet auch die passende KI-Lösung.

Mehr zum Thema
article:fokus_txt
Anzeige
DWN
Finanzen
Finanzen Die XRP-Preise stiegen, und XRP-Inhaber verdienten über 10.000 US-Dollar pro Tag durch FORT Miner Hashrate-Verträge.

Mit der jüngsten Erholung der XRP-Preise hat sich die Risikobereitschaft am Markt entsprechend verbessert. Kapital fließt wieder in...

 

X

DWN-Wochenrückblick

Weniger E-Mails, mehr Substanz: Der DWN-Wochenrückblick liefert 1x/Woche die wichtigsten Themen kompakt und Podcast. Für alle, deren Postfach überläuft.

E-mail: *

Ich habe die Datenschutzerklärung sowie die AGB gelesen und erkläre mich einverstanden.

DWN
Technologie
Technologie AWS EU-Cloud startet: Milliarden-Investition in Brandenburg
15.01.2026

AWS eröffnet eine unabhängige Cloud für Europa und investiert dafür Milliarden in Brandenburg. Das neue Angebot richtet sich vor allem...

DWN
Politik
Politik Trumps Ölpolitik: Widerstand in der US-Ölindustrie wächst
15.01.2026

Die US-Regierung treibt einen energiepolitischen Kurs voran, der in der heimischen Ölindustrie auf wachsenden Widerstand stößt. Doch...

DWN
Technologie
Technologie Reparaturpflicht für Smartphones und Waschmaschinen: Verbraucher profitieren
15.01.2026

Ab diesem Sommer gilt ein Recht auf Reparatur für Smartphones, Waschmaschinen und andere Geräte. Hersteller müssen Reparaturen während...

DWN
Finanzen
Finanzen Ray Dalio warnt: 38 Billionen US-Dollar Schulden und "wirtschaftlicher Herzinfarkt" der USA
15.01.2026

38 Billionen US-Dollar Staatsschulden belasten die USA wie ein Damoklesschwert. Ray Dalio, Gründer des Hedgefonds Bridgewater, warnt vor...

DWN
Wirtschaft
Wirtschaft Kupferpreis-Rekordhoch: US-Importe und Zollpolitik treiben Preise für Industriemetalle
15.01.2026

Die globalen Rohstoffmärkte geraten zunehmend unter den Einfluss geopolitischer Entscheidungen und strategischer Lagerpolitik. Der...

DWN
Immobilien
Immobilien Studie: In Deutschland fehlen 1,4 Millionen Wohnungen
15.01.2026

Die Wohnungssuche hat sich in vielen Regionen zum Albtraum entwickelt, Besserung ist nicht in Sicht. Nach einer Studie des Pestel-Instituts...

DWN
Unternehmen
Unternehmen Geschäftsbericht: Weshalb Glaubwürdigkeit über den Geschäftserfolg entscheidet
15.01.2026

Geschäftsberichte gelten oft als lästige Pflicht. Doch hinter Tabellen und Kennzahlen entscheidet sich, ob Unternehmen glaubwürdig...

DWN
Technologie
Technologie Schranken für anzügliche KI-Bilder bei Musk-Chatbot Grok
15.01.2026

Elon Musks Chatbot Grok sorgte für internationale Empörung, weil Nutzer Frauen und Minderjährige in durchsichtigen Bikinis darstellen...