Technologie
Anzeige

Forscher warnen: Künstliche Intelligenz wird die Menschheit vernichten

Führende Forscher im Bereich Künstliche Intelligenz betrachten die Entwicklung einer Superintelligenz als unaufhaltsam, welche die Menschheit ausrotten wird.
Autor
22.05.2023 11:24
Aktualisiert: 22.05.2023 11:24
Lesezeit: 2 min
Forscher warnen: Künstliche Intelligenz wird die Menschheit vernichten
Gegner der KI zeichnen gern das Bild einer dystopischen Zukunft a la „Matrix“. (Foto: 0fjd125gk87/Pixabay)

Bereits im letzten Sommer hatte eine Umfrage unter Forschern in dem Bereich ergeben, dass die Hälfte von ihnen ein Risiko von 10 Prozent sahen, dass Künstliche Intelligenz (KI) die Menschheit auslöschen wird. Dennoch hat es bisher kaum Anstrengungen gegeben, die Risiken unter Kontrolle zu bringen. Vielmehr hat sich die Entwicklung seitdem nur weiter beschleunigt.

Im März veröffentlichte eine Gruppe der größten Namen im Technologiesektor, darunter Apple-Gründer Steve Wozniak und Tesla-Chef Elon Musk, einen offenen Brief, nachdem das bisher leistungsstärkste KI-Programm GPT-4 veröffentlicht worden war. In dem Brief werden alle Labore dazu aufgefordert, „das Training von KI-Systemen, die leistungsfähiger sind als GPT-4, sofort und für mindestens sechs Monate auszusetzen“.

„KI-Systeme mit einer dem Menschen ebenbürtigen Intelligenz können tiefgreifende Risiken für die Gesellschaft und die Menschheit darstellen, wie umfangreiche Forschungsarbeiten zeigen und wie von führenden KI-Labors anerkannt wird“, heißt es in dem offenen Brief. Fortgeschrittene Künstliche Intelligenz sollte daher „mit entsprechender Sorgfalt und entsprechenden Ressourcen geplant und verwaltet werden“.

Doch eine solche Planung oder ein Management der Künstlichen Intelligenz finde „leider nicht statt“, so der Brief. Dies geschehe vor dem Hintergrund, dass KI-Labore in den letzten Monaten einen Wettlauf um die Entwicklung und den Einsatz immer leistungsfähigerer digitaler Personen gestartet hätten, der außer Kontrolle geraten sei. Niemand – nicht einmal ihre Schöpfer – könne sie verstehen, vorhersagen oder zuverlässig kontrollieren.

Künstliche Intelligenz wird uns alle töten

Der offene Brief wirft einige Fragen auf: „Sollen wir zulassen, dass Maschinen unsere Informationskanäle mit Propaganda und Unwahrheiten fluten? Sollen wir alle Arbeitsplätze automatisieren, auch die erfüllenden? Sollen wir nicht-menschliche Intelligenzen entwickeln, die uns irgendwann zahlenmäßig überlegen sind, uns überlisten, überflüssig machen und ersetzen könnten? Sollen wir den Kontrollverlust über unsere Zivilisation riskieren?“

Eliezer Yudkowsky vom Machine Intelligence Research Institute, der bereits seit 2001 an der Ausrichtung „Künstlicher Allgemeiner Intelligenz“ arbeitet und weithin als Begründer dieses Bereichs gilt, hat den offenen Brief bewusst nicht unterschrieben. Denn er ist der Ansicht, dass der Brief „den Ernst der Lage unterschätzt und dass er zu wenige Konsequenzen fordert, um das Problem zu lösen“, schreibt er im Magazin Time.

Das Hauptproblem sei eben nicht eine zum Menschen „konkurrenzfähige“ Intelligenz, sondern dass KI intelligenter wird als der Mensch, so Yudkowsky. „Viele Forscher, die sich mit diesen Fragen befassen, darunter auch ich, gehen davon aus, dass das wahrscheinlichste Ergebnis der Entwicklung einer übermenschlich intelligenten KI unter den derzeitigen Umständen darin besteht, dass wirklich jeder auf der Erde sterben wird.“


DWN
Finanzen
Finanzen Immobilien-Crowdfunding-Falle: Anleger warnt vor Reinvest24
02.08.2025

Ein Investor schlägt Alarm: Zinsen bleiben aus, Geld verschwindet, Auskünfte gibt es keine. Der Fall der Plattform Reinvest24 zeigt, wie...

DWN
Wirtschaft
Wirtschaft Fahrermangel in Europa: Fast die Hälfte der europäischen Lkw-Fahrer steht kurz vor der Pensionierung
02.08.2025

Europa droht eine stille Krise, die alle trifft: Hunderttausende Lkw-Fahrer gehen bald in Rente – doch kaum jemand will nachrücken....

DWN
Wirtschaft
Wirtschaft Chef des Superfonds Eifo zur chinesischen Windkraft-Offensive: „Ich bin besorgt“
02.08.2025

Chinas Windkraftkonzerne drängen mit Macht auf globale Märkte – und bedrohen nun auch Europas Energiewende. In Lateinamerika, Afrika...

DWN
Wirtschaft
Wirtschaft Gefahr für Trumps Zollpolitik: Klagen eingereicht – entscheidender Prozess hat begonnen
01.08.2025

Trumps Zollpolitik steht vor dem juristischen Kollaps: Fünf US-Firmen und zwölf Bundesstaaten klagen gegen die Sondervollmacht, auf deren...

DWN
Technologie
Technologie Huawei schockt die Konkurrenz: 3000-Kilometer-Batterie stellt alles Bisherige in den Schatten
01.08.2025

Huawei greift nach der Technologieführung im Batteriezeitalter: Mit 3000 Kilometern Reichweite und fünf Minuten Ladezeit droht der...

DWN
Wirtschaft
Wirtschaft Trumps Zollroulette: Die Weltwirtschaft tanzt nach seiner Pfeife
01.08.2025

Donald Trump zündet die nächste Eskalationsstufe im globalen Wirtschaftskrieg – mit Zöllen, Chaos und Drohgebärden. Experten sprechen...

DWN
Politik
Politik Boomer-Soli: Rentensystem soll stabiler werden – und reiche Rentner sollen zahlen
01.08.2025

Reiche Rentner sollen künftig stärker zur Kasse gebeten werden – so die Idee eines "Boomer-Soli". Ein Vorschlag, der das Rentensystem...

DWN
Wirtschaft
Wirtschaft Eurozone: Industriestimmung hellt sich erneut auf
01.08.2025

Die Industrie der Eurozone sendet erste Hoffnungszeichen – doch es bleibt ein fragiles Bild. Während kleinere Länder überraschen,...