Überwachung per Algorithmus: Wenn der Chef zum Datenjäger wird
Künstliche Intelligenz (KI) übernimmt nicht nur immer mehr Aufgaben von Angestellten – sie kann ihnen auch schaden. Genauer gesagt: Nicht die KI selbst, sondern Arbeitgeber, die das Werkzeug falsch einsetzen. Und dafür könnten sie teuer bezahlen. Das berichtet das Wirtschaftsportal Verslo žinios.
Je mehr Arbeitgeber über ihre Mitarbeiter wissen, desto einfacher ist es, attraktive Anreizsysteme zu schaffen oder Karriereentscheidungen zu treffen. Klingt positiv – gäbe es da nicht ein „Detail“: Die Daten könnten unrechtmäßig erhoben oder zur Diskriminierung genutzt werden. In vielen Großunternehmen, besonders in den USA, ist Mitarbeiterüberwachung zur gängigen Praxis geworden. Manche informieren ihre Belegschaft offen darüber, dass deren Standort erfasst wird – etwa um die Einhaltung der Drei-Tage-im-Büro-Regel zu kontrollieren. Ähnliches beobachten Mitarbeiter auch in Teilen Europas. In Deutschland und Belgien bietet das Unternehmen „Spacewell“ ein System zur Echtzeit-Überwachung von Büroflächen an, das mit Sensoren unter Tischen, in Decken oder an Türen die Auslastung misst. Zudem kommt eine niedrig auflösende Bildanalyse zum Einsatz – faktisch Videoüberwachung. Die Technik kann Ressourcen effizienter steuern, wirft aber Fragen zum Datenschutz und möglichen digitalem Mobbing auf. Einige ausländische Firmen analysieren mittels KI auch Stimmton, Emotionen oder Stresslevel ihrer Mitarbeiter über smarte Geräte. Solche Daten können dann dazu führen, dass ein Mitarbeiter „eingefroren“ wird – etwa wenn er zu oft „müde wirkt“, erhält er weniger wichtige Aufgaben. Der Verdacht auf Mobbing und Diskriminierung liegt nahe.
Millionenstrafen möglich
Arbeitgeber, die solche Daten erfassen, bewegen sich auf dünnem Eis. Mantas Kapočius, Geschäftsführer von UAB „Impact Solutions Partners“, das unter der Marke DIPA („Architekten für KI-Produktivität“) auftritt, warnt: Wer Daten unrechtmäßig erhebt und zur Personalsteuerung nutzt, riskiert hohe Strafen – und zahlt teuer. Laut EU-Datenschutzgrundverordnung (DSGVO) muss jeder Arbeitgeber eine legitime Grundlage zur Datenverarbeitung haben und darf keine überflüssigen Informationen speichern. Jegliche unnötige Sammlung oder KI-Nutzung ohne klaren Zweck verstößt gegen das Prinzip der Datenminimierung. „Vor der Einführung neuer KI-Systeme sollte der Arbeitgeber eine Datenschutz-Folgenabschätzung (DSFA) durchführen, um Risiken zu erkennen. Wer das ignoriert, läuft Gefahr, mit DSGVO-Strafen belegt zu werden – bei gravierenden Verstößen bis zu 20 Millionen Euro oder 4 Prozent des weltweiten Jahresumsatzes, je nachdem, was höher ist“, so Kapočius. Zudem ist der KI-Act in Europa bereits auf Systeme anwendbar – insbesondere solche mit automatisierten Entscheidungen. Im HR-Bereich gelten diese als „hochrisikobehaftet“. „Wer eine automatisierte KI-Lösung zur Personalsteuerung einführt, ohne Transparenz, menschliche Kontrolle oder neutrale Daten sicherzustellen, verstößt gegen den KI-Act. Dann drohen Untersuchungen, Betriebseinschränkungen oder Klagen. Die Strafen: bis zu 35 Millionen Euro oder 7 Prozent des weltweiten Umsatzes“, erklärt der DIPA-Chef.
Neben juristischen Risiken leidet auch das Unternehmensimage. Datenschutzbehörden machen schwere Verstöße oft öffentlich. Nachrichten über DSGVO- oder KI-Gesetz-Verstöße verbreiten sich rasant. „Die größte Gefahr ist nicht die KI selbst, sondern ihr unverantwortlicher oder rechtswidriger Einsatz. Firmen, die Vorschriften ignorieren, werden die ersten Präzedenzfälle – sowohl für Strafen als auch für Reputationsverluste. Doch KI kann ein wertvolles Instrument sein, wenn sie zur Unterstützung, nicht zur Kontrolle von Mitarbeitern dient“, fasst Kapočius zusammen.
Verantwortung liegt beim Arbeitgeber
Juristen betonen: Überwachung zur Ressourcenoptimierung kann gerechtfertigt sein – solange sie nicht in die Privatsphäre eingreift. Doch bei Gesichtserkennung oder Emotionsanalyse stellt sich die Frage: Können Beschäftigte sich der Überwachung entziehen? Wenn ein „Nein“ Karrieren behindert, liegt rechtlicher Druck und womöglich Diskriminierung vor. „Mobbing ist im rechtlichen Sinn systematischer psychischer Druck, der zum Ziel hat, den Mitarbeiter zu isolieren, zu entwerten oder zum Rückzug zu drängen. Wenn KI-Auswertungen systematisch dazu führen, dass Angestellte keine Entwicklungschancen erhalten oder Verantwortung verlieren, ist das eine Form von Mobbing“, erklärt Rūta Didikė, Partnerin der Kanzlei „Hitus Legal“ und Expertin für Arbeitskonflikte.
Ein Beispiel: 2020 entschied ein italienisches Gericht, dass der von „Deliveroo“ verwendete Algorithmus zur Schichteinteilung diskriminierend sei. Der Grund: Fahrer, die Schichten kurzfristig absagten, wurden im „Zuverlässigkeitsranking“ herabgestuft – unabhängig vom Grund. Auch Krankheit zählte nicht als Entschuldigung. Das Urteil: diskriminierend. „Deliveroo“ musste 50.000 Euro Entschädigung zahlen. „In Juristenkreisen gilt das Urteil als bedeutend. Es zeigt, dass Unternehmen auch für ungewollte algorithmische Diskriminierung haftbar sind. Transparenz und Fairness im KI-Einsatz – besonders in der Plattformwirtschaft – sind unerlässlich“, betont Didikė.
Nutzt ein Arbeitgeber ein KI-System, das unbewusst bestimmte Gruppen benachteiligt – etwa ältere Menschen –, haftet er selbst. „Mit anderen Worten: Wird KI für Einstellungs-, Beförderungs- oder Kündigungsentscheidungen eingesetzt, muss menschliche Kontrolle gewährleistet sein. Auch wenn das System von Dritten stammt, trägt das Unternehmen Verantwortung. Es muss die Technik vor Einsatz prüfen und regelmäßig auditieren, um ungewollte Diskriminierung zu verhindern“, so die Partnerin von „Hitus Legal“. Auch die Personalabteilung spielt eine zentrale Rolle: Sie setzt KI-Systeme im Alltag um, etwa bei Bewerberauswahl oder Mitarbeiterbeurteilungen – und muss sicherstellen, dass keine diskriminierenden Muster entstehen. Auch wenn Entwickler haftbar gemacht werden können, bleibt die Verantwortung primär beim Unternehmen. Erst danach kann dieses Regress vom Anbieter fordern. Wer als Mitarbeiter wegen KI benachteiligt wird, hat das Recht auf eine Erklärung – und im Falle eines Verstoßes drohen dem Unternehmen handfeste rechtliche Konsequenzen.
