Politik

KI-Gesetz: EU lehnt Social Scoring und Gesichtserkennung im öffentlichen Raum ab

Die Europäische Union hat das umstrittene KI-Gesetz nun final beschlossen. Es sei das weltweit erste Gesetz dieser Art und könne einen globalen Standard in der Regulierung von Künstlicher Intelligenz setzen, heißt es. Es soll risikoreiche Anwendungen kontrollieren und bestimmte Technologien, wie etwa Social Scoring, komplett verbieten.
21.05.2024 10:59
Aktualisiert: 21.05.2024 12:13
Lesezeit: 2 min
KI-Gesetz: EU lehnt Social Scoring und Gesichtserkennung im öffentlichen Raum ab
Die EU hat das KI-Gesetz verabschiedet und darin unter anderem den Einsatz von Gesichtserkennungs-Software im öffentlichen Raum verboten. (Foto: dpa) Foto: Andreas Arnold

Die EU-Staaten haben schärfere Regeln für Künstliche Intelligenz (KI) in der Europäischen Union beschlossen. Sie stimmten am Dienstag in Brüssel den Plänen zu, mit denen unter anderem bestimmte KI-Anwendungen ganz verboten werden, wie die Länder mitteilten. Es sei das weltweit erste Gesetz dieser Art und könne einen globalen Standard für die Regulierung von KI setzen.

Kein „Social Scoring“ wie in China

Das Gesetz zielt darauf ab, die Nutzung von KI in der Europäischen Union sicherer zu machen. Es soll sicherstellen, dass KI-Systeme möglichst transparent, nachvollziehbar, nicht diskriminierend und umweltfreundlich sind. Ein wichtiger Aspekt ist, dass die KI-Systeme von Menschen überwacht werden und nicht nur von anderen Technologien.

Die Pläne gehen auf einen Vorschlag der EU-Kommission von 2021 zurück. Systeme, die als besonders risikoreich gelten und beispielsweise in kritischen Infrastrukturen oder im Bildungs- und Gesundheitswesen eingesetzt werden, müssen künftig strenge Anforderungen erfüllen. Bestimmte KI-Anwendungen, die gegen EU-Werte verstoßen, sollen ganz verboten werden. Dazu gehört beispielsweise die Bewertung von sozialem Verhalten („Social Scoring“). Damit werden in China Bürgerinnen und Bürger in Verhaltenskategorien eingeteilt. Auch eine Emotionserkennung am Arbeitsplatz und in Bildungseinrichtungen soll es in der EU nicht geben.

Auch die Gesichtserkennung im öffentlichen Raum - also zum Beispiel durch Videoüberwachung an öffentlichen Plätzen - soll grundsätzlich nicht erlaubt sein. Dabei gibt es jedoch Ausnahmen: Polizei und andere Sicherheitsbehörden sollen eine solche Gesichtserkennung im öffentlichen Raum nutzen dürfen, um ganz bestimmte Straftaten wie Menschenhandel oder Terrorismus zu verfolgen.

Das Gesetz gilt für alle, die KI-Systeme innerhalb der EU entwickeln, anbieten oder nutzen. Dies betrifft öffentliche und private Akteure sowohl innerhalb als auch außerhalb der EU.

„Regulierungsarbeit beginnt jetzt erst“

Der Digitalverband Bitkom kritisierte, dass das nun beschlossene KI-Gesetz wesentliche Fragen offen lasse. In Deutschland und den anderen EU-Ländern beginne die Regulierungsarbeit jetzt erst, sagte Verbandspräsident Ralf Wintergerst. Ob KI in Deutschland und Europa einen Schub erhalte oder vor allem vor neue Hindernisse gestellt werde, hänge entscheidend davon ab, wie dieser Rahmen ausgestaltet werde und die Regelungen in Deutschland umgesetzt würden.

Bundesdigitalminister Volker Wissing räumte am Dienstag ein, dass der Gesetzgeber bei einer so sich schnell verändernden Technologie wie KI dauerhaft gefordert sei. „Wir können nicht erwarten, dass wir mit einer Regulierung die Zukunftsfragen abschließend klären", sagte der FDP-Politiker. „Deswegen war ich immer dafür, dass wir schnell uns auf den Weg der Regulierung machen, aber auch den Mut haben, kontinuierlich nachzusteuern.“ Wichtig sei, dass die Innovationsfreundlichkeit der Regulierung immer im Blick behalten werde.

Bei Verstößen gegen KI-Gesetz drohen Geldstrafen

Nach der Bestätigung der EU-Länder werden die neuen Regeln nun im Amtsblatt veröffentlicht und treten 20 Tage später in Kraft. Zwei Jahre nach dem Inkrafttreten sollen sie dann gelten.

Wenn Unternehmen die Vorschriften nicht einhalten, müssen die Mitgliedstaaten Sanktionen beschließen. Dies können Geldstrafen sein. Privatpersonen, die Verstöße gegen die Vorschriften entdecken, können sich bei nationalen Behörden beschweren. Diese können dann Überwachungsverfahren einleiten und gegebenenfalls Strafen verhängen.

Mehr zum Thema
article:fokus_txt
X

DWN Telegramm

Verzichten Sie nicht auf unseren kostenlosen Newsletter. Registrieren Sie sich jetzt und erhalten Sie jeden Morgen die aktuellesten Nachrichten aus Wirtschaft und Politik.
E-mail: *

Ich habe die Datenschutzerklärung gelesen und erkläre mich einverstanden.
Ich habe die AGB gelesen und erkläre mich einverstanden.

Ihre Informationen sind sicher. Die Deutschen Wirtschafts Nachrichten verpflichten sich, Ihre Informationen sorgfältig aufzubewahren und ausschließlich zum Zweck der Übermittlung des Schreibens an den Herausgeber zu verwenden. Eine Weitergabe an Dritte erfolgt nicht. Der Link zum Abbestellen befindet sich am Ende jedes Newsletters.

DWN
Technologie
Technologie Duolingo ersetzt Menschen durch KI: Nutzer klagen über Qualitätsverlust
03.05.2025

Duolingo ersetzt menschliche Kursentwickler zunehmend durch Künstliche Intelligenz – und erntet dafür scharfe Kritik von Nutzern....

DWN
Panorama
Panorama Papst Franziskus, Prinzessin Diana und Co.: Warum uns der Tod großer Persönlichkeiten so nahegeht
03.05.2025

Am Samstag verabschiedet sich die Weltöffentlichkeit in Rom mit einer feierlichen Zeremonie von Papst Franziskus. Doch warum betrifft das...

DWN
Wirtschaft
Wirtschaft Keine Erholung in Sicht: Rutscht die deutsche Wirtschaft wieder ab?
03.05.2025

Die deutsche Wirtschaft könnte auch 2025 zum dritten Mal in Folge schrumpfen. Der Handelskonflikt hat die Lage drastisch verschärft....

DWN
Unternehmensporträt
Unternehmensporträt Start-up Automotive: Der Weg ist für Bareways das Ziel
02.05.2025

Navigationssysteme zeigen den schnellsten oder kürzesten Weg von A nach B. Das Start-up Bareways geht noch einen Schritt weiter: Es...

DWN
Politik
Politik EU bietet Trump milliardenschweren Deal – Brüssel will US-Produkte kaufen, um Zollkrieg zu stoppen
02.05.2025

Inmitten eskalierender Handelskonflikte zwischen den Vereinigten Staaten und der Europäischen Union hat Brüssel nun eine weitreichende...

DWN
Technologie
Technologie Visa ebnet Weg für KI-Agenten im Online-Handel – Der stille Umbau des Zahlungsverkehrs hat begonnen
02.05.2025

Visa läutet das Zeitalter des KI-Handels ein: Künstliche Intelligenz soll künftig im Namen der Nutzer einkaufen und bezahlen –...

DWN
Politik
Politik AfD gesichert rechtsextremistisch: Verfassungsschutz stuft die Partei als rechtsextrem ein - AfD kündigt juristische Schritte an
02.05.2025

Der Verfassungsschutz hat die gesamte AfD als gesichert rechtsextremistisch eingestuft. In einer ersten Reaktion kündigt die...

DWN
Panorama
Panorama Corona-Ursprung und Labor-These: China widerspricht US-Regierung
02.05.2025

China macht die USA für den Ursprung des Coronavirus verantwortlich und beschuldigt die US-Regierung, das Thema zu „politisieren“, um...