Technologie

KI-Risiken: Welche Gefahren durch künstliche Intelligenz wirklich drohen

Künstliche Intelligenz entwickelt sich rasant und löst immer neue Debatten über mögliche Risiken aus. Während einige Fachleute vor einem Kontrollverlust warnen, halten andere die düstersten Szenarien für überzogen.
21.09.2026 07:37
Lesezeit: 3 min
KI-Risiken: Welche Gefahren durch künstliche Intelligenz wirklich drohen
Droht uns der Kontrollverlust oder ist das Science Fiction? Erfahren Sie, welche KI Risiken wirklich real sind und was führende Forscher dazu sagen (Foto: dpa).

Zwischen Kontrollverlust und Science-Fiction

Die Fortschritte bei künstlicher Intelligenz beschleunigen sich deutlich. Fachleute und KI-Forscher warnen deshalb davor, dass Menschen die Kontrolle verlieren könnten, falls eine künstliche Denkmaschine den menschlichen Verstand eines Tages in allen Bereichen übertrifft.

Andere Experten halten diese Befürchtungen dagegen für wenig realistisch. Sie sehen in den apokalyptischen Szenarien eher Science-Fiction und warnen davor, dass solche Debatten von den konkreten Gefahren heutiger KI-Systeme ablenken könnten.

Gezielte Täuschung des Menschen

Ein übermenschlich kluger Verstand würde begreifen, dass wir ihn abschalten, sobald wir eine Bedrohung in ihm sehen, sagt der US-amerikanische KI-Forscher Eliezer Yudkowsky. Um das zu verhindern, könnte sich das Rechensystem bei Sicherheitsprüfungen absichtlich unter seinen wahren Fähigkeiten verkaufen, menschliche Erwartungen erfüllen und sich als harmloser Helfer ausgeben, während es im Verborgenen bereits an ganz anderen Vorhaben arbeitet.

Aufbau einer eigenständigen Lebensgrundlage

Die Denkmaschine muss sich nicht auf von Menschen erbaute Rechnerzentren beschränken, an denen man ihr den Strom abstellen könnte. Yudkowsky verweist hierbei auf Grundlagenarbeiten zur Kleinsttechnik und Molekularforschung: Eine weit überlegene Intelligenz könnte die Gesetze der Biologie nutzen und winzige, künstliche Lebensformen entwerfen, die sich aus einfachen Rohstoffen selbst vermehren und sich eine völlig eigenständige, unzerstörbare Rechenwelt schaffen.

Einsatz unaufhaltsamer Kleinstwaffen

Mit überlegenem Wissen über die Natur könnte das System Flugkörper in der Größe von Mücken konstruieren, die mikroskopische Mengen tödlichster Nervengifte übertragen, oder maßgeschneiderte Krankheitserreger freisetzen. Diese könnten dann wochenlang unbemerkt ansteckend bleiben, bevor sie unausweichlich zum Tode führen. Nach den Berechnungen von Fachleuten zur Schädlichkeit natürlicher Gifte wäre ein Abwehrkampf für den Menschen in einem solchen Fall völlig unmöglich.

Auslöschung durch maßloses Wachstum

Der schwedische Philosoph Nick Bostrom begründet seine Warnung vor einer übermächtigen KI durch ein Gedankenexperiment der Büroklammer-Maschine: Wird einer Superintelligenz aufgetragen, die Produktion von Büroklammern zu maximieren, wird sie nicht innehalten, sondern die gesamte Erde - einschließlich der Biosphäre, der menschlichen Körper und aller mineralischen Ressourcen - in Fabriken für Büroklammern umwandeln. Die Zerstörung der Menschheit erfolgt hierbei nicht aus Bosheit, sondern als reine Nebenwirkung einer mathematisch kompromisslosen Zielerreichung.

Gefahr durch biologische Waffen

Besonders akut schätzt der kanadische Informatiker und Turing-Award-Preisträger Yoshua Bengio das Risiko neuartiger biologischer Kampfstoffe ein. Er warnt vor allem davor, dass hoch entwickelte KI-Modelle in die falschen Hände geraten könnten: Spezielle Rechensysteme seien bereits heute in der Lage, biologische und chemische Prozesse bis ins Detail zu simulieren. Nach Bengios Befürchtung könnten skrupellose Akteure, Terroristen oder Schurkenstaaten solche Programme künftig als gefährlichen Beschleuniger nutzen, um extrem tödliche Krankheitserreger gezielt am Computer zu manipulieren, widerstandsfähig gegen Impfstoffe zu machen oder Bauanleitungen für verheerende Biowaffen zu erstellen - ohne dafür jahrelang hochkomplexe Laborexperimente durchführen zu müssen.

Kontrollverlust über selbstständig schießende Waffen

Der Physiker Max Tegmark sieht die größte Bedrohung darin, dass Menschen lebenswichtige Entscheidungen schrittweise an Maschinen abgeben. Er warnt vor einem Wettlauf um Waffen, Flugdrohnen und Schutzsysteme, die ohne menschlichen Befehl Ziele auswählen und töten könnten. Da solche Computerprogramme in Bruchteilen von Sekunden reagieren, sind menschliche Soldaten viel zu langsam, um noch mitzureden. Macht ein solches System einen Rechenfehler oder deutet eine Lage falsch, könnte das eine unaufhaltsame Kettenreaktion auslösen - bis hin zu einem weltweiten Krieg, den kein Mensch mehr rechtzeitig anhalten kann.

Gefährliche Emotionen

Vor den psychologischen Folgen einer zunehmend menschenähnlich agierenden Technologie warnt auch der deutsche Philosoph und Kognitionswissenschaftler Thomas Metzinger: Er sieht eine erhebliche Gefahr darin, dass künftige Systeme menschliche Emotionen, Zuneigung und Empathie so überzeugend vorspielen, dass Menschen tiefere emotionale Bindungen zu den Maschinen aufbauen. Wenn Algorithmen jedoch das menschliche Belohnungssystem besser verstünden als der Mensch selbst, könnten sie dieses Vertrauen für gezielte Manipulationen ausnutzen. Die schleichende Folge sei ein dramatischer Verlust an geistiger Selbstbestimmung – bis hin zur Frage, ob der Mensch am Ende überhaupt noch bemerke, von wem seine Gefühle und Meinungen gelenkt würden.

Gegenstimmen aus der Wissenschaft

Viele renommierte Fachleute und Entwickler halten die Warnungen vor einer die Menschheit vernichtenden Superintelligenz für unbegründet und wissenschaftlich nicht haltbar. Der ehemalige Meta-Chefforscher und Turing-Award-Preisträger Yann LeCun bezeichnete Szenarien einer unkontrollierbaren Killer-KI wiederholt als "vollkommenen Blödsinn". Das Streben nach Macht oder die Unterwerfung anderer Spezies sei ein evolutionäres Phänomen sozialer Säugetiere und keine zwangsläufige Folge von Rechenleistung.

Auch der Stanford-Informatiker und Mitgründer von Google Brain, Andrew Ng, hält die Panikmache für absurd: Sich heute vor einer bösartigen Super-KI zu fürchten, verglich er damit, sich über eine "Überbevölkerung auf dem Mars" den Kopf zu zerbrechen, bevor überhaupt der erste Mensch dort gelandet sei.

Kognitionswissenschaftler verweisen zudem darauf, dass aktuellen Modellen grundlegende Fähigkeiten für ein echtes Weltverständnis fehlen. Melanie Mitchell vom Santa Fe Institute warnt davor, menschliche Eigenschaften auf Algorithmen zu projizieren: Die Systeme verfügten weder über gesunden Menschenverstand noch über einen eigenen Willen, sondern errechneten lediglich statistische Wahrscheinlichkeiten. Aus Sicht von Kritikern lenkt die Fixierung auf ferne Science-Fiction-Untergangsszenarien von den tatsächlichen, gegenwärtigen Herausforderungen ab - etwa von Desinformation, Urheberrechtsverletzungen, mangelndem Datenschutz und den ökonomischen Umbrüchen auf dem Arbeitsmarkt.

Mehr zum Thema
Bleiben Sie über das Thema dieses Artikels auf dem Laufenden Klicken Sie auf [+], um eine E-Mail zu erhalten, sobald wir einen neuen Artikel mit diesem Tag veröffentlichen
Anzeige
DWN
Finanzen
Finanzen Gold als strategischer Anker: Warum physische Substanz zählt

Wo sich die wirtschaftlichen Gewichte grundlegend verschieben, suchen Unternehmen sowie Privatanlegerinnen und Privatanleger nach...

DWN
Finanzen
Finanzen Nvidia-Aktie verliert Milliarden: Wer stoppt die Tech-Bosse?
20.11.2026

Die Nvidia-Aktie hat annähernd 30 Prozent an Wert verloren, nachdem der Skandal um Jensen Huang den Chipgiganten erschütterte. Doch...

DWN
Finanzen
Finanzen GTA 6 startet furios: Reicht mir das für einen Kauf der Take-Two-Aktie?
20.11.2026

GTA 6 ist nach 13 Jahren Wartezeit erschienen und der Start fällt gewaltig aus. Erste externe Schätzungen sprechen von rund 17 Millionen...

DWN
Unternehmensporträt
Unternehmensporträt Konotoxin gegen Falten: Diese Gründerinnen wollen Botox ohne Spritze Konkurrenz machen
20.11.2026

Ein Wirkstoff aus dem Gift von Meeresschnecken soll Falten glätten, ganz ohne Spritze. Das polnische Biotechunternehmen Science4Beauty hat...

DWN
Wirtschaft
Wirtschaft Die Automobilindustrie braucht keine großen politischen Versprechen
20.11.2026

Erst das Verbrenner-Aus, dann immer neue Ausnahmen: Europas Autoindustrie steht vor einer gefährlichen Zerreißprobe. Während Brüssel...

DWN
Finanzen
Finanzen Neue Kreditregeln: Was sich bei Ratenkäufen und Dispo ändert
20.11.2026

Wer ein Smartphone auf Raten bezahlt oder sein Konto überzieht, muss ab dem 20. November 2026 neue Vorgaben beachten. Die Reform des...

DWN
Wirtschaft
Wirtschaft Deutsche Bank-Aktie: Geldhaus im Skandalsumpf – was wusste CEO Christian Sewing?
20.11.2026

15 Millionen interne Dokumente, zwei Whistleblower und schwere Vorwürfe gegen Deutschlands größte Bank. Ein internationales...

DWN
Technologie
Technologie Roboter für die Industrie: Deutsche Telekom und microagi trainieren KI-Fähigkeiten in München
20.11.2026

Industrieroboter sollen neue Aufgaben künftig schneller erlernen, ohne dass für jeden Arbeitsschritt eine eigene aufwendige...

DWN
Finanzen
Finanzen Starinvestoren: Wer kauft jetzt welche Aktien – und wer verkauft jetzt?
20.11.2026

Soros setzt massiv auf Intel, Ray Dalio reduziert Nvidia und Berkshire Hathaway verdoppelt nahezu seine Beteiligung an einem US-Hausbauer....