Unternehmen

KI im Mittelstand: Wie KMU die richtige KI-Lösung finden und teure Fehler vermeiden

Ob Einkauf, Controlling oder Service Desk: KI kann heute in nahezu jedem Bereich mittelständischer Unternehmen zum Hebel für Produktivität werden. Doch was bringt echten Fortschritt und was nur Komplexität? Nur wer Klarheit über Ziele, Prozesse und Datenlage hat, findet die passende Lösung. Eine Analyse jenseits des Hypes.
10.06.2025 12:43
Lesezeit: 4 min
KI im Mittelstand: Wie KMU die richtige KI-Lösung finden und teure Fehler vermeiden
Viele KMU investieren in KI-Software (iStock/ Wasan Tita). Foto: Wasan Tita

Der Markt für KI-basierte Software boomt. Von Vertriebsautomatisierung bis vorausschauender Wartung reichen die Einsatzfelder, die kleinen und mittleren Unternehmen (KMU) heute offenstehen.

Laut einer Erhebung des Netzwerks Mittelstand-Digital, einer Förderinitiative des Bundesministeriums für Wirtschaft und Energie (BMWE), planen rund 60 Prozent der mittelständischen Unternehmen in Deutschland, bis Ende 2026 mindestens eine auf Künstlicher Intelligenz gestützte Softwarelösung in ihren Betrieb zu integrieren. Die Zahlen stammen aus einer Befragung, die 2024 im Rahmen regionaler Kompetenzzentren durchgeführt wurde.

Die Studie zeigt auch: Rund 42 Prozent der Unternehmen sehen fehlendes Know-how als größte Hürde bei der Einführung von KI, dicht gefolgt von unklaren Rechtsfragen (38 Prozent) und fehlender Datenqualität (35 Prozent). Nur jedes fünfte Unternehmen fühlt sich laut Mittelstand-Digital derzeit gut auf die Auswahl und Integration vorbereitet. Entsprechend hoch ist das Risiko, in teure Insellösungen zu investieren, die weder skalieren noch nachhaltig wirken.

SAP-CSO Kask: “Es geht um Produktivitätssprünge im Tagesgeschäft”

Auch bei SAP in Walldorf sieht man das so. In einem seiner seltenen Interviews erklärte Sean Kask, Chief AI Strategy Officer bei SAP, kürzlich, warum jetzt der richtige Moment ist, KI strategisch in die Kernprozesse zu integrieren: „KI wird ganze Branchen umwälzen. Deshalb ist der richtige Zeitpunkt, damit anzufangen, genau jetzt“, so Kask in einem Gespräch mit der NZZ.

Unternehmen, die KI nicht in ihre Kernprozesse integrierten, würden den Anschluss verlieren. SAP habe allein 2024 rund hundert neue generative KI-Funktionen in seine Produktwelt integriert. „Dabei geht es nicht um aufwändige Sonderlösungen, sondern um konkrete Produktivitätssprünge im Tagesgeschäft“, so Kask weiter.

„Ein Beispiel ist unser KI-Copilot Joule, der bei SAP inzwischen auch in der Cloud-Migration zum Einsatz kommt“, erklärt er. „Die KI ist in der Lage, auf Basis von mehr als 200.000 SAP-Hilfedokumenten und 350 Millionen Zeilen Code Vorschläge zu machen, Prozesse zu erklären oder gar Programmcode zu schreiben.“ Für Kask steht fest: „KI berührt jeden Unternehmensprozess. Wer jetzt nicht investiert, wird den Wettbewerbsvorsprung anderer kaum einholen.“

Bedarfsanalyse, Datenlage, Ziele: Die Basis muss stimmen

Tatsächlich liegt der größte Hebel für KMU nicht im visionären Einsatz autonomer Systeme, sondern in der Entlastung repetitiver Routinen. Ob Lieferscheine automatisiert eingelesen oder Onboardingprozesse beschleunigt werden, viele Anwendungsszenarien zeigen messbare Wirkung. Voraussetzung ist jedoch, dass die Lösung exakt auf die operativen Bedarfe abgestimmt ist. “KI ist keine separate Lösung”, betont SAP-Experte Kask, “sondern Teil unserer Produkte.”

Eine zentrale Rolle spielt dabei die Bedarfsanalyse. “Der ideale Prozess beginnt mit einer sorgfältigen Analyse von Problemfeldern und Potenzialen”, sagt Laura Bies vom Mittelstand-Digital Zentrum Berlin. “Nur wer genau weiß, wo die größten Reibungsverluste liegen und welche Daten zur Verfügung stehen, kann überhaupt sinnvoll KI einsetzen.”

Bies weiß, dass vor allem standardisierte, datenreiche Prozesse geeignet seien. “Eine gute Orientierung bieten sogenannte Effort-Impact-Matrizen. Sie zeigen, welche Maßnahmen mit wenig Aufwand große Wirkung entfalten könnten.” Gemeinsam mit Sarah Rübel, Projektleiterin bei Mittelstand-Digital, empfiehlt Bies ihren Mittelstandkunden eine systematische Vorgehensweise in vier Schritten:

  1. Anwendungsfall identifizieren,
  2. Datenqualität prüfen,
  3. Ziel definieren,
  4. Anbieter sondieren.

“Viele KMU suchen zu früh nach Tools und zu spät nach Zielen”, so Rübel. “Das führt häufig zu Frustration.”

KI-Readiness richtig einschätzen

Ein bewährter Einstieg führt über Pilotprojekte. “Sie helfen nicht nur, technische Hürden zu erkennen, sondern auch Vertrauen im Team aufzubauen”, erklärt Rübel. Die Projektziele müssen dabei messbar und realistisch sein. Sogenannte SMART-Kriterien, also Kriterien, die spezifisch, messbar, erreichbar, relevant und terminiert sind, bilden dafür die Grundlage.

Auch in Kaiserslautern arbeiten Experten daran, KMU auf genau diesem Weg zu unterstützen. Das Mittelstand 4.0-Kompetenzzentrum Kaiserslautern ist Teil der bundesweiten Förderinitiative Mittelstand-Digital und berät kleine und mittlere Unternehmen bei der digitalen Transformation, mit einem Fokus auf den praktischen Einsatz von KI.

Die Initiative bietet unter anderem Workshops, Projektbegleitungen und Tools wie den sogenannten KI-Readiness-Check (KIRC) an, mit dem Unternehmen ihre technologische und organisatorische Ausgangslage realistisch einschätzen können.

Zwei (erfolgreiche) Praxisbeispiele aus Handwerk und Industrie

Wie erfolgreiche KI-Projekte in mittelständischen Unternehmen gelingen können, zeigen zwei Praxisbeispiele aus Rheinland-Pfalz. Sie stammen aus dem Netzwerk von Mittelstand-Digital und wurden im Rahmen des Mittelstand-Digital Zentrums Kaiserslautern begleitet. Die dort entwickelten Konzepte zeigen, wie auch kleine Betriebe mit gezielter Beratung zu funktionierenden Anwendungen kommen.

Ein Beispiel dafür ist die Tischlerei Kasper aus Rhens, ein Zehn-Mann-Betrieb im Handwerk. Der Zehn-Mann-Betrieb entwickelte mit Unterstützung des Kompetenzzentrums eine digitale Wissensdatenbank. KI-basierte Software verschlagwortet Videoanleitungen automatisch und macht sie auffindbar. “So sichern wir das Know-how unserer älteren Kollegen für die nächste Generation", heißt es aus dem Betrieb. Das Ergebnis: weniger Einarbeitungszeit, geringere Qualifikationslücken.

Auch in der industriellen Fertigung finden sich zahlreiche Anwendungsfälle. Die Helmut Meeth GmbH in Wittlich automatisierte die Qualitätskontrolle bei Glasscheiben mithilfe von Bilderkennung. “Zuvor war das eine ermüdende Routinearbeit”, sagt der Projektleiter. “Jetzt fokussieren sich die Mitarbeiter auf Sonderfälle und Auswertungen.”

Mitarbeitende einbinden, statt überrollen

Neben Technologie und Prozessen spielt der Mensch eine zentrale Rolle. „Will man KI am Arbeitsplatz gut gestalten, heißt das erstmal die Arbeitssituation der Beschäftigten wirklich verstehen“, sagt Sabine Pfeiffer vom Nuremberg Campus of Technology (NCT Nürnberg). Die Soziologin forscht seit vielen Jahren zur Digitalisierung im Mittelstand, insbesondere zu den sozialen Auswirkungen technischer Innovationen.

Im Interview mit dem Mittelstand-Digital Zentrum Kaiserslautern aus dem Jahr 2024 macht Pfeiffer klar, worauf es in der Praxis tatsächlich ankommt: „Je früher Mitarbeitende eingebunden werden, desto besser gelingt die Umsetzung.“ In einer aktuellen Befragung der Initiative wünschten sich 74 Prozent der Beschäftigten mehr Mitspracherecht bei KI-Projekten. „KI darf nicht als Bedrohung wahrgenommen werden, sondern als Entlastung. Dafür braucht es Erklärung, Partizipation und Transparenz.“

Für Pfeiffer ist außerdem die Kommunikation maßgeblich. „Wer mit den Menschen spricht statt über sie, kann Widerstände abbauen und Offenheit schaffen. Gerade in kleineren Betrieben ist das entscheidend.“

Strukturierter Auswahlprozess statt Tool-Hopping

Laut dem Kompetenzzentrum Kaiserslautern führt der Weg zu erfolgreichen KI-Lösungen über die Beantwortung von sechs zentralen Fragen, die im Rahmen des KI-Readiness-Checks (KIRC) entwickelt wurden.

  1. Welches Problem soll gelöst werden?
  2. Welche Daten stehen dafür zur Verfügung?
  3. Welche Abläufe lassen sich realistisch automatisieren?
  4. Wie viel Ressourcen sind intern verfügbar?
  5. Wie lassen sich Mitarbeitende einbinden und schulen?
  6. Welche Anbieter passen zur IT-Landschaft und Unternehmenskultur?

“Nicht jedes Tool muss perfekt sein, aber es muss zur konkreten Herausforderung passen”, heißt es im Leitfaden des Kompetenzzentrums.

Warum KMU die Spielregeln für erfolgreiche KI setzen

KI ist kein Plug-and-Play-Werkzeug, sondern ein lernendes System. Fehlende Datenqualität, unklare Zielvorgaben oder mangelhafte Schnittstellen können schnell zur Kostenfalle werden. “Der Reifegrad der internen Prozesse ist oft entscheidender als das Tool selbst”, sagt Sabine Pfeiffer.

Am Ende entscheidet deshalb nicht das Technologie-Versprechen, sondern deren Passung zum Betrieb über den Erfolg von Digitalisierung in KMU, das zeigen zahlreiche Projekte: Die besten Ergebnisse liefern Vorhaben, die aus einem klaren Bedarf entstehen, mit realistischen Zielen starten und die Menschen im Unternehmen konsequent mitnehmen.

“KI löst keine Strategieprobleme. Aber sie kann helfen, gute Prozesse noch besser zu machen”, weiß auch SAP-Manager Sean Kask. Für mittelständische Unternehmen bedeutet das: Wer weiß, was er braucht und was nicht, findet auch die passende KI-Lösung.

Mehr zum Thema
article:fokus_txt
Anzeige
DWN
Finanzen
Finanzen Die XRP-Preise stiegen, und XRP-Inhaber verdienten über 10.000 US-Dollar pro Tag durch FORT Miner Hashrate-Verträge.

Mit der jüngsten Erholung der XRP-Preise hat sich die Risikobereitschaft am Markt entsprechend verbessert. Kapital fließt wieder in...

 

X

DWN-Wochenrückblick

Weniger E-Mails, mehr Substanz: Der DWN-Wochenrückblick liefert 1x/Woche die wichtigsten Themen kompakt und Podcast. Für alle, deren Postfach überläuft.

E-mail: *

Ich habe die Datenschutzerklärung sowie die AGB gelesen und erkläre mich einverstanden.

DWN
Finanzen
Finanzen ETF-Boom unter Kritik: Verzerren passive Investments den Markt?
14.01.2026

ETF gelten manchen Kritikern als Gefahr für den Kapitalismus. Angesichts der wachsenden Dominanz passiver Investments stellt sich die...

DWN
Politik
Politik US-Geldpolitik unter Druck: Strafrechtliche Vorladungen gegen Jerome Powell
14.01.2026

Der Konflikt zwischen politischer Macht und institutioneller Unabhängigkeit in den USA erreicht eine neue Eskalationsstufe. Steht damit...

DWN
Wirtschaft
Wirtschaft WEF-Jahrestreffen in Davos: Furcht vor geoökonomischer Konfrontation
14.01.2026

Welche Folgen hat es, wenn Staaten gezielt mit wirtschaftlichen Mitteln Macht ausüben? Im Bericht über globale Risiken der Stiftung World...

DWN
Unternehmen
Unternehmen Bosch-Kooperation mit Neura Robotics: Wie humanoide Roboter schneller lernen sollen
14.01.2026

Humanoide Roboter rücken in den Fokus der Industrie – und eine Bosch-Kooperation mit Neura Robotics soll den nächsten Schritt...

DWN
Politik
Politik Bekämpfung der Inflation: Österreich senkt Mehrwertsteuer auf Grundnahrungsmittel
14.01.2026

Die Inflation in Österreich ist im Vergleich zum EU-Durchschnitt hoch. Die Koalition aus ÖVP, SPÖ und Neos einigt sich auf eine...

DWN
Politik
Politik Ukraine verlängert Kriegsrecht: Neuer EU-Kredit soll vor allem Militär stärken
14.01.2026

Das neue riesige EU-Darlehen in Höhe von 90 Milliarden Euro soll nach dem Willen der Europäischen Kommission zu einem großen Teil den...

DWN
Immobilien
Immobilien Pflegeimmobilie als Geldanlage: Finanzbranche entdeckt das Pflegeheim
14.01.2026

Die deutsche Bevölkerung altert, und damit steigt der Bedarf an Betreuung. Banken und private Kapitalgeber suchen nach...

DWN
Finanzen
Finanzen Handschriftliches Testament: Wenn eine einfache Quittung über Millionen entscheidet
14.01.2026

Handschriftliches Testament: Wie sicher ist Ihr letzter Wille? Ein aktueller Prozess um eine Darlehensquittung hat die Tücken des...