Technologie

Künstliche Intelligenz außer Kontrolle? Forscherin warnt vor gefährlicher Entwicklung

Künstliche Intelligenz wiederholt bereits bestehende Fehlinformationen und verstärkt vorhandene Ungleichheiten. Am gefährlichsten ist jedoch die Gleichgültigkeit gegenüber dieser Entwicklung, schreibt Birgy Lorenz, Senior Researcher an der IT-Fakultät der TalTech.
18.04.2026 16:00
Lesezeit: 7 min
Künstliche Intelligenz außer Kontrolle? Forscherin warnt vor gefährlicher Entwicklung
Das größte Risiko besteht darin, wenn uns das alles egal wird, wohin sich die KI entwickelt. (Illustration: ChatGPT)

Künstliche Intelligenz verändert Machtverhältnisse

Über künstliche Intelligenz wird gesprochen wie über das Wetter, mit etwas Angst, etwas Begeisterung, aber vor allem mit einem Gefühl der Unvermeidbarkeit. Als würde sie einfach geschehen und nicht durch menschliches Handeln entstehen.

So ist es nicht. Die Frage ist nicht mehr, was künstliche Intelligenz kann, sondern wessen Welt sie aufbaut.

Die Gewinner sind bereits erkennbar. Große Technologieunternehmen, Logistikfirmen und der Finanzsektor gehören zu den Profiteuren, also jene, die Zugang zu Daten haben und in der Lage sind, diese zu verarbeiten.

Künstliche Intelligenz arbeitet ohne Pause, verlangt keinen Lohn und im Gegensatz zur Lufthansa oder der Deutschen Bahn streikt sie nicht. Sie optimiert Prozesse, beschleunigt Abläufe und senkt Kosten. Doch jede eingesparte Summe bedeutet an anderer Stelle den Verlust von Arbeitsplätzen, Rollen oder Bedeutung. Gleichzeitig schwindet die Kontrolle darüber, wie Entscheidungen getroffen werden.

Es beginnt sich normal anzufühlen, dass Menschen keine Kontrolle mehr über Entscheidungen haben, die ihr eigenes Leben betreffen. Es handelt sich nicht nur um eine technologische Revolution, sondern um eine Umverteilung von Arbeit ohne gesellschaftliche Vereinbarung.

Wenn Daten fehlen, fehlen auch Menschen

Künstliche Intelligenz denkt nicht, sie wiederholt. Und sie wiederholt das, womit sie trainiert wurde. Internetmüll, historische Vorurteile und unsichtbare Verzerrungen werden zur vermeintlichen „Intelligenz“, sobald sie in großem Maßstab reproduziert werden.

Das Problem liegt nicht nur darin, dass KI Fehler macht, sondern dass sie systematisch Fehler macht. Fehler sind Teil des Systems. Wenn Daten fehlen, etwa über Minderheiten, Frauen oder kleinere Gemeinschaften, dann existieren diese auch nicht in den Entscheidungen.

Das ist kein technischer Mangel, sondern eine politische Entscheidung darüber, wessen Erfahrungen berücksichtigt werden. Solche Lücken lassen sich nicht einfach schließen, da viele Daten historisch nie erhoben wurden. Ein bekanntes Beispiel sind Airbags, die auf den „durchschnittlichen Mann“ ausgelegt waren und bei anderen Körpergrößen schlechter funktionierten. Künstliche Intelligenz reproduziert solche Verzerrungen, jedoch schneller und weniger sichtbar.

Fehler entstehen in Sekunden

Künstliche Intelligenz erklärt nicht, übernimmt keine Verantwortung und versteht nicht, was sie tut. Dennoch wird sie zunehmend in Bereichen eingesetzt, in denen Entscheidungen reale Auswirkungen haben, etwa bei Einstellungen, Kreditvergabe, medizinischen Diagnosen oder im Rechtssystem. Wir übertragen Entscheidungsgewalt auf ein System, dessen Funktionsweise wir selbst nicht vollständig verstehen.

Das ist bequem, aber riskant. Wenn eine Entscheidung falsch ist, bleibt unklar, wer verantwortlich ist. Der Entwickler, die Datenbasis, der Nutzer oder das System selbst?

Ein verbreitetes Narrativ lautet, dass KI vor allem einfache Jobs ersetzt. Tatsächlich betrifft der Wandel auch hochqualifizierte Berufe. Analysten, Juristen und Ärzte, also Tätigkeiten, die auf Mustererkennung basieren, stehen ebenfalls unter Druck.

Das bedeutet nicht, dass Menschen verschwinden, sondern dass sich die Bedeutung von Arbeit verändert. Auch Wissenschaft und Journalismus sind betroffen, obwohl sie als Kontrollinstanzen der Gesellschaft fungieren. Es ist sehr einfach, KI-generierte Inhalte als Journalismus oder Wissenschaft auszugeben, die Öffentlichkeit und Politik täuschen. Falschinformationen zu widerlegen ist deutlich schwieriger, als sie in Sekunden zu verbreiten. Gesellschaft, Bildungssystem und Politik sind darauf nicht vorbereitet.

Größtes Risiko: Gleichgültigkeit

Die Entwicklung künstlicher Intelligenz schreitet in einem Tempo voran, das kaum Raum für gesellschaftliche Abstimmung lässt. Regulierung hinkt hinterher, Debatten bleiben auf Expertenkreise beschränkt, während viele Menschen Werkzeuge nutzen, deren Auswirkungen sie nicht verstehen. Wie groß darf die Fehlerquote sein, wenn eine Maschine halluziniert oder falsche Entscheidungen trifft?

Während solche Fragen offen bleiben, werden bereits heute Entscheidungen getroffen, die die Zukunft prägen. Welche Daten werden gesammelt? Wer besitzt sie? Wofür werden sie genutzt? Und in wessen Interesse arbeiten die Systeme? Wenn diese Fragen unbeantwortet bleiben, liegt das Problem nicht in der Technologie, sondern in der Machtverteilung.

Auch kleinere Länder wie z. B. Estland verfügen grundsätzlich über das Potenzial, digitale Vorreiter zu sein, berichtet das estnische Portal Äripäev. Doch ohne klare Strategie besteht die Gefahr, lediglich Konsument fremder Technologien zu bleiben. Das bedeutet Abhängigkeit. Und für kleine Staaten auch Verwundbarkeit.

Wenn Kontrolle erhalten bleiben soll, sind Investitionen nicht nur in Technologie, sondern auch in Bildung, kritisches Denken und Diversität notwendig. Künstliche Intelligenz ist nicht nur ein Werkzeug, sondern ein Spiegel gesellschaftlicher Strukturen.

Künstliche Intelligenz ist nicht neutral

Künstliche Intelligenz ist weder gut noch schlecht, aber sie ist auch nicht neutral. Sie verstärkt bestehende Strukturen wie Ungleichheit, Effizienzdenken und Profitorientierung. Wenn wir nicht eingreifen, wird das zur Norm.

Damit stellt sich nicht mehr die Frage, ob künstliche Intelligenz kommt, sondern ob diese Entwicklung unkontrolliert geschieht oder aktiv gestaltet wird. Es lohnt sich, eine neue Gewohnheit zu entwickeln, nämlich KI-Entscheidungen bewusst wahrzunehmen und einzugreifen, wenn Fehler auftreten.

Die Entwicklung betrifft alle hochdigitalisierten Volkswirtschaften. Mit wachsender Abhängigkeit von KI-Systemen steigen auch die Anforderungen an Regulierung, Bildung und technologische Eigenständigkeit, um Kontrolle über zentrale wirtschaftliche Prozesse zu behalten.

Mehr zum Thema
Bleiben Sie über das Thema dieses Artikels auf dem Laufenden Klicken Sie auf [+], um eine E-Mail zu erhalten, sobald wir einen neuen Artikel mit diesem Tag veröffentlichen
X

DWN-Wochenrückblick

Weniger E-Mails, mehr Substanz: Der DWN-Wochenrückblick liefert 1x/Woche die wichtigsten Themen kompakt als Podcast. Für alle, deren Postfach überläuft.

E-mail: *

Ich habe die Datenschutzerklärung sowie die AGB gelesen und erkläre mich einverstanden.

DWN
Finanzen
Finanzen Steuererklärung falsch ausgefüllt? Jetzt zählt schnelles Handeln
01.09.2026

Eine vergessene Ausgabe, eine falsche Zahl oder eine nicht angegebene Einkunft: Fehler in der Steuererklärung passieren schnell. Wer sie...

DWN
Wirtschaft
Wirtschaft Konsumflaute trotz besserer Stimmung: Händler senken Preise
01.09.2026

Der Sommer neigt sich dem Ende zu, das Leben verlagert sich wieder stärker nach drinnen. Für Händler beginnt damit eine wichtige Phase...

DWN
Finanzen
Finanzen Großbank: Europa verliert gegen USA
01.09.2026

Die zehn größten Banken Europas haben zuletzt gut verdient. Doch die Wettbewerber in den USA bleiben unerreicht: JPMorgan Chase macht...

DWN
Wirtschaft
Wirtschaft Apple-Chef John Ternus: Jetzt muss er Tim Cooks Versäumnisse ausbügeln
01.09.2026

Apple ist wertvoller als fast jedes andere Unternehmen der Welt, doch ausgerechnet bei Künstlicher Intelligenz droht der Konzern den...

DWN
Technologie
Technologie Hacker erpressen Berlin: 5,79 Terabyte Daten gestohlen
01.09.2026

Berlins Verwaltung ist Ziel eines massiven Cyberangriffs geworden: Hacker wollen 5,79 Terabyte gestohlener Daten versteigern. Das...

DWN
Wirtschaft
Wirtschaft Inflation zieht 2027 wieder an
01.09.2026

Die Hoffnung auf eine dauerhafte Entspannung bei den Preisen schwindet. Das Ifo-Institut erwartet, dass die Inflation 2027 wieder auf 3...

DWN
Immobilien
Immobilien Ruheständler im Osten haben weniger im Portemonnaie
01.09.2026

Im Osten reicht das Einkommen im Ruhestand etwas weniger weit – und Eigentum ist seltener. Besonders bei der Wohnsituation zeigt sich ein...

DWN
Politik
Politik Deutschland entkommt russischem Gas und landet in der nächsten Falle
01.09.2026

Deutschland hat sich vom russischen Pipelinegas gelöst und setzt nun stark auf Flüssiggas. Doch inzwischen kommt ein Großteil des...