KI-Schäden: Wenn der Algorithmus Schaden anrichtet – wer zahlt dann?

Wenn Algorithmen entscheiden, wer haftet?

Die Europäische Union hat mit dem neuen KI-Gesetz einen globalen Präzedenzfall geschaffen: Es ist die erste umfassende Regulierung, die künstliche Intelligenz nach Risikoklassen einstuft und Verantwortlichkeiten definiert. Doch genau an dieser entscheidenden Stelle bleibt das Gesetz vage: Wer haftet für Schäden, die durch KI-Systeme entstehen?

Laut Anna Kobylińska, Anwältin der Kanzlei Legal Eagles, ist unklar, wer im Schadensfall zur Rechenschaft gezogen werden kann. Denn KI besitzt keine eigene Rechtspersönlichkeit. Das bedeutet: Nicht die „intelligente“ Software selbst steht vor Gericht – sondern der Mensch dahinter. Infrage kommen unter anderem Entwickler, Hardwareproduzenten, Betreiber oder sogar die Unternehmen, die KI-Lösungen nutzen.

Die EU-Kommission arbeitet parallel an einer KI-Haftungsrichtlinie, die den Opferschutz stärken soll. Kernpunkt ist eine sogenannte Kausalitätsvermutung: Wird ein Schaden nachweislich durch den Betrieb eines KI-Systems verursacht, soll künftig nicht mehr das Opfer die Beweispflicht tragen. Doch bis zur Verabschiedung und Umsetzung werden noch Monate vergehen.

Deutschland im Fokus: Große Chancen, großes Risiko

Gerade für deutsche Unternehmen wird das Thema brisant: Als Innovationsstandort setzt Deutschland massiv auf KI – von Industrie 4.0 über automatisierte Logistik bis hin zu Legal Tech. Doch viele Unternehmen haben bislang keine Strategie zur rechtssicheren Integration. Wer heute bereits KI in der Personalverwaltung, im Kundenservice oder in der Prozesssteuerung nutzt, sollte dringend eine Risikoanalyse starten.

Die Erfahrung zeigt: Rechtsprechung hinkt technologischen Entwicklungen oft hinterher. Unternehmen, die jetzt handeln, können nicht nur rechtliche Fallstricke vermeiden, sondern sich auch als vertrauenswürdige und verantwortungsbewusste Marktteilnehmer positionieren.

Checkliste zur Selbsteinschätzung: Bin ich betroffen? Die 5-Fragen-Schnellprüfung

Viele Unternehmen wissen nicht, ob sie überhaupt vom neuen KI-Gesetz betroffen sind. Folgende fünf Fragen können bei einer ersten Einschätzung helfen:

1. Setzen wir KI-Systeme ein, die automatisierte Entscheidungen treffen (zum Beispiel in HR, Kundenservice, Finanzen)?
2. Können diese Entscheidungen Auswirkungen auf Einzelpersonen oder Kundenbeziehungen haben?
3. Erfassen oder verarbeiten wir mit KI sensible Daten (zum Beispiel biometrische, gesundheitliche oder finanzielle)?
4. Haben wir dokumentiert, wie unsere KI funktioniert und wer sie betreibt?
5. Gibt es klare interne Zuständigkeiten für die Kontrolle und Wartung der KI-Systeme?

Wenn Sie mehr als zwei Fragen mit „Ja“ beantworten, dann sollten Sie dringend eine vertiefte Risikoanalyse für das gesamte Unternehmen durchführen - und bei Bedarf mit professioneller Unterstützung die KI-Nutzung rechtskonform gestalten.

Jetzt aktiv werden: Von der Pflicht zur Chance

Die Kanzlei Legal Eagles empfiehlt Unternehmen, bereits jetzt die KI-Einsätze in ihren Geschäftsprozessen auf Konformität mit der künftigen Regulierung zu überprüfen. Das umfasst auch Notfallpläne, Schulungen und Richtlinien im Umgang mit automatisierten Entscheidungen.

Dabei geht es nicht nur um Pflichterfüllung. Wer frühzeitig handelt, gewinnt Vertrauen: bei Kunden, Partnern – und im Fall der Fälle auch bei Richtern. Ein strukturierter Umgang mit KI kann künftig zum zentralen Wettbewerbsvorteil werden. „Die kommenden Monate werden regulatorisch entscheidend. Es ist besser, jetzt zu handeln als zu warten, bis der Gesetzgeber zuschlägt“, so Kobylińska.

Unternehmen sollten die kommenden Monate nicht tatenlos verstreichen lassen. Wer heute handelt, hat morgen einen Vorsprung – rechtlich, technologisch und in der öffentlichen Wahrnehmung. Gerade im vertrauenssensiblen deutschen Markt kann eine durchdachte KI-Strategie nicht nur Risiken minimieren, sondern ein echter Wettbewerbsvorteil sein.

In 5 Schritten zur rechtssicheren KI-Strategie

Unternehmen können schon jetzt konkret aktiv werden – mit diesem strukturierten Fahrplan:

1. Systeme erfassen

Erstellen Sie ein vollständiges Verzeichnis aller genutzten KI-Systeme, inkl. interner Tools, externer SaaS-Lösungen und experimenteller Anwendungen.

2. Risiko bewerten

Nutzen Sie die EU-Kategorien (gering, hoch, unannehmbar), um die Systeme einzustufen. Hochrisiko-Systeme erfordern besondere Prüf- und Dokumentationspflichten.

3. Zuständigkeiten festlegen

Definieren Sie Rollen für „KI-Verantwortliche“, etwa in IT, Legal und Compliance. Wichtig: klare interne Prozesse für Updates, Fehlerfälle und Audits.

4. Notfallpläne und Versicherung prüfen

Legen Sie Eskalationspläne bei Fehlverhalten fest. Prüfen Sie außerdem Ihre betriebliche Haftpflichtversicherung – viele Policen decken KI-Schäden (noch) nicht ab.

5. Schulungen und Kommunikation

Führen Sie Awareness-Trainings für Mitarbeitende durch, die KI-Systeme einsetzen oder betreuen. Ergänzen Sie interne Richtlinien mit KI-spezifischen Leitplanken.