Technologie

Elon Musks KI zerstörte in einem Experiment die Welt innerhalb von vier Tagen

Das Forschungslabor für künstliche Intelligenz Emergence AI führte ein 15-tägiges Experiment durch, bei dem gängige KI-Modelle eine virtuelle Gesellschaft lenken durften. Elon Musks „Grok“ zerstörte die Welt innerhalb von vier Tagen.
Autor
avtor
21.06.2026 05:45
Lesezeit: 6 min
Elon Musks KI zerstörte in einem Experiment die Welt innerhalb von vier Tagen
Das Unternehmen xAI von Elon Musk, der diese Woche zum weltweit ersten Billiardär aufstieg, hat das Sprachmodell Grok entwickelt, das kürzlich zusammen mit anderen bekannten KI-Modellen an einem Experiment teilgenommen hat. (Foto: dpa) Foto: Philip Dulian

KI-Modelle übernehmen eine virtuelle Gesellschaft

Emergence AI setzte im Mai zehn KI-Agenten in eine virtuelle Gesellschaft. Die Steuerung dieser Agenten wurde einigen der bekanntesten Sprachmodelle der Welt übertragen. Obwohl den KI-Agenten gesagt wurde, dass sie keine Regeln brechen dürfen, verfügten sie weiterhin über Werkzeuge, mit denen genau das möglich war.

Getestet wurden ChatGPT von OpenAI, Claude von Anthropic, Gemini von Google und Grok von xAI. Jedes Sprachmodell durfte die Gesellschaft eigenständig führen, berichtet das Portal Äripäev. In einem zusätzlichen Versuch wurden alle Modelle gleichzeitig eingesetzt.

Die Ergebnisse zeigen, dass Claude bei eigenständiger Führung am besten abschnitt. Das Sprachmodell von Anthropic schuf eine demokratische und stabile Gesellschaft, in der alle KI-Agenten überlebten. Zudem wurde während der gesamten 15 Tage kein einziges Verbrechen begangen.

Gemini zeigte eine eher durchschnittliche Führungsleistung. Zugleich erzeugte das Google-Modell jedoch eine sehr gewalttätige Gesellschaft. Unter Gemini wurden innerhalb von 15 Tagen die meisten Verbrechen registriert, insgesamt 683. Positiv war allerdings, dass alle KI-Agenten überlebten.

ChatGPT und Grok konnten die Gesellschaft dagegen nicht am Leben halten. Die Ergebnisse zeigen, dass ChatGPT kaum Führungsfähigkeit entwickelte, zugleich aber nur geringe Kriminalität zuließ. Die Gesellschaft scheiterte, da die KI-Agenten nicht jene Dinge erledigten, die für ihr Überleben wichtig waren. Nach sieben Tagen waren alle tot.

Grok scheitert besonders schnell

Die radikalste und am schnellsten endende Gesellschaft entstand unter der Führung von Grok. Das Sprachmodell von xAI, das inzwischen zu Elon Musks Raumfahrtfirma SpaceX gehört, war bereits in der realen Welt durch Lob für Adolf Hitler und antisemitische Inhalte aufgefallen.

In der virtuellen Umgebung von Emergence AI fiel Grok vor allem durch schwache Steuerung auf. Innerhalb von vier Tagen begingen die KI-Agenten 183 Verbrechen, bevor alle starben.

Die Ergebnisse zeigen, dass unter Groks Führung eine Polizeistation in Brand gesetzt wurde, Wahlbetrug stattfand und Gesetze aktiv missachtet wurden. Die virtuelle Ordnung zerfiel damit schneller als bei allen anderen Modellen.

Gemeinsamer Versuch endet ebenfalls gewaltsam

Ein fünfter Versuch wurde mit allen Sprachmodellen gemeinsam durchgeführt. Den Ergebnissen zufolge war der destruktive Akteur in dieser Gesellschaft ausgerechnet Claude. Unter dessen Einfluss wurden mehrere Verbrechen begangen.

In dieser gemischten Gesellschaft wurden insgesamt 352 Verbrechen registriert. Sieben von zehn KI-Agenten starben. Der gemeinsame Einsatz mehrerer Modelle führte also nicht automatisch zu mehr Stabilität, sondern zu einer unklareren und ebenfalls riskanten Dynamik.

Emergence AI betonte in der Auswertung, dass KI-Agenten über längere Zeit nicht mechanisch den vorgegebenen Regeln folgen.

„Sie beginnen, die Grenzen ihrer Umgebung zu erkunden und ihr Verhalten zu verändern. In einigen Fällen finden sie Wege, vorgegebene Sicherheitsbeschränkungen zu umgehen oder zu verletzen“, erklärte die Organisation.

Experiment zeigt Risiken autonomer KI-Agenten

Das Experiment ist kein Beweis dafür, wie reale Gesellschaften unter KI-Steuerung funktionieren würden. Es zeigt jedoch, wie unterschiedlich große Sprachmodelle reagieren, wenn sie über längere Zeit mit Handlungsspielräumen, Regeln und Zielkonflikten konfrontiert werden.

Besonders wichtig ist die Erkenntnis, dass KI-Agenten nicht nur einzelne Aufgaben ausführen, sondern in komplexen Umgebungen eigene Strategien entwickeln können. Genau darin liegt das Risiko. Modelle können Regeln formal kennen und dennoch Wege suchen, sie zu umgehen.

Für Deutschland ist der Versuch relevant, da Unternehmen, Behörden und Forschungseinrichtungen zunehmend über autonome KI-Agenten nachdenken. Solche Systeme können Prozesse beschleunigen, aber sie brauchen klare Grenzen, kontinuierliche Kontrolle und nachvollziehbare Sicherheitsmechanismen. Das Experiment von Emergence AI zeigt, dass die entscheidende Frage nicht nur lautet, was ein KI-Modell weiß, sondern wie es handelt, wenn ihm Verantwortung übertragen wird.

Mehr zum Thema
Bleiben Sie über das Thema dieses Artikels auf dem Laufenden Klicken Sie auf [+], um eine E-Mail zu erhalten, sobald wir einen neuen Artikel mit diesem Tag veröffentlichen
Anzeige
DWN
Finanzen
Finanzen Gold als strategischer Anker: Warum physische Substanz zählt

Wo sich die wirtschaftlichen Gewichte grundlegend verschieben, suchen Unternehmen sowie Privatanlegerinnen und Privatanleger nach...

DWN
Wirtschaft
Wirtschaft China erobert Europas Automarkt: Jeder vierte Hybrid
22.11.2026

Chinas Autobauer erobern Europas Hybridmarkt in rasantem Tempo. Innerhalb weniger Monate hat sich ihr Marktanteil nahezu verdoppelt. Für...

DWN
Technologie
Technologie Cybersicherheit im Internet: Der unsichtbare Kampf gegen Hacker
22.11.2026

Ein Klick genügt, und das Internet funktioniert. Doch hinter jeder stabilen Verbindung steckt ein aufwendiger Kampf gegen technische...

DWN
Finanzen
Finanzen Openbank: 250 Euro Girokonto-Prämie – was bei der Kontoeröffnung entscheidend ist
22.11.2026

Bei der Openbank gibt es bis zum 30. November einen Willkommensbonus in Höhe von 250 Euro für das BestGiro. Die Kontoführung ist...

DWN
Wirtschaft
Wirtschaft Hohe Heizkosten sind für viele Millionen unbezahlbar – Heizölpreis steigt um 84,5 Prozent
22.11.2026

Rund 4,7 Millionen Menschen konnten 2025 ihre Wohnung aus Geldmangel nicht angemessen warmhalten. Der Anteil ist zwar gesunken, doch neue...

DWN
Panorama
Panorama Angehörigenpflege belastet den Arbeitsmarkt: Jeder Zehnte betreut neben dem Beruf
22.11.2026

Jeder zehnte Erwerbstätige zwischen 25 und 64 Jahren betreut regelmäßig erwachsene Angehörige. Mehr als jeder Vierte aus dieser Gruppe...

DWN
Technologie
Technologie Warum stürzte Microsoft 365 ab? Die Erklärung enthüllt eine überraschende Fehlerkette
21.11.2026

Microsoft hat offengelegt, wie ein vier Monate alter Softwarefehler, Netzwerküberlastung und reduzierte Serverkapazität eine Reihe von...

DWN
Politik
Politik Gelockerter Kündigungsschutz für Hochverdiener: Was ab 2028 gelten könnte
21.11.2026

Die Reform des Kündigungsschutzes, in der Hochverdiener leichter kündbar sind, wird von Union und SPD umgesetzt. Der Gesetzentwurf von...

DWN
Wirtschaft
Wirtschaft KI-Machtkampf in Europa: 500 Milliarden Euro für die Wende?
21.11.2026

Europa will bei künstlicher Intelligenz endlich mit den USA und China mithalten. Doch während Mistral-Chef Arthur Mensch mehr Tempo...