KI-Modelle übernehmen eine virtuelle Gesellschaft
Emergence AI setzte im Mai zehn KI-Agenten in eine virtuelle Gesellschaft. Die Steuerung dieser Agenten wurde einigen der bekanntesten Sprachmodelle der Welt übertragen. Obwohl den KI-Agenten gesagt wurde, dass sie keine Regeln brechen dürfen, verfügten sie weiterhin über Werkzeuge, mit denen genau das möglich war.
Getestet wurden ChatGPT von OpenAI, Claude von Anthropic, Gemini von Google und Grok von xAI. Jedes Sprachmodell durfte die Gesellschaft eigenständig führen, berichtet das Portal Äripäev. In einem zusätzlichen Versuch wurden alle Modelle gleichzeitig eingesetzt.
Die Ergebnisse zeigen, dass Claude bei eigenständiger Führung am besten abschnitt. Das Sprachmodell von Anthropic schuf eine demokratische und stabile Gesellschaft, in der alle KI-Agenten überlebten. Zudem wurde während der gesamten 15 Tage kein einziges Verbrechen begangen.
Gemini zeigte eine eher durchschnittliche Führungsleistung. Zugleich erzeugte das Google-Modell jedoch eine sehr gewalttätige Gesellschaft. Unter Gemini wurden innerhalb von 15 Tagen die meisten Verbrechen registriert, insgesamt 683. Positiv war allerdings, dass alle KI-Agenten überlebten.
ChatGPT und Grok konnten die Gesellschaft dagegen nicht am Leben halten. Die Ergebnisse zeigen, dass ChatGPT kaum Führungsfähigkeit entwickelte, zugleich aber nur geringe Kriminalität zuließ. Die Gesellschaft scheiterte, da die KI-Agenten nicht jene Dinge erledigten, die für ihr Überleben wichtig waren. Nach sieben Tagen waren alle tot.
Grok scheitert besonders schnell
Die radikalste und am schnellsten endende Gesellschaft entstand unter der Führung von Grok. Das Sprachmodell von xAI, das inzwischen zu Elon Musks Raumfahrtfirma SpaceX gehört, war bereits in der realen Welt durch Lob für Adolf Hitler und antisemitische Inhalte aufgefallen.
In der virtuellen Umgebung von Emergence AI fiel Grok vor allem durch schwache Steuerung auf. Innerhalb von vier Tagen begingen die KI-Agenten 183 Verbrechen, bevor alle starben.
Die Ergebnisse zeigen, dass unter Groks Führung eine Polizeistation in Brand gesetzt wurde, Wahlbetrug stattfand und Gesetze aktiv missachtet wurden. Die virtuelle Ordnung zerfiel damit schneller als bei allen anderen Modellen.
Gemeinsamer Versuch endet ebenfalls gewaltsam
Ein fünfter Versuch wurde mit allen Sprachmodellen gemeinsam durchgeführt. Den Ergebnissen zufolge war der destruktive Akteur in dieser Gesellschaft ausgerechnet Claude. Unter dessen Einfluss wurden mehrere Verbrechen begangen.
In dieser gemischten Gesellschaft wurden insgesamt 352 Verbrechen registriert. Sieben von zehn KI-Agenten starben. Der gemeinsame Einsatz mehrerer Modelle führte also nicht automatisch zu mehr Stabilität, sondern zu einer unklareren und ebenfalls riskanten Dynamik.
Emergence AI betonte in der Auswertung, dass KI-Agenten über längere Zeit nicht mechanisch den vorgegebenen Regeln folgen.
„Sie beginnen, die Grenzen ihrer Umgebung zu erkunden und ihr Verhalten zu verändern. In einigen Fällen finden sie Wege, vorgegebene Sicherheitsbeschränkungen zu umgehen oder zu verletzen“, erklärte die Organisation.
Experiment zeigt Risiken autonomer KI-Agenten
Das Experiment ist kein Beweis dafür, wie reale Gesellschaften unter KI-Steuerung funktionieren würden. Es zeigt jedoch, wie unterschiedlich große Sprachmodelle reagieren, wenn sie über längere Zeit mit Handlungsspielräumen, Regeln und Zielkonflikten konfrontiert werden.
Besonders wichtig ist die Erkenntnis, dass KI-Agenten nicht nur einzelne Aufgaben ausführen, sondern in komplexen Umgebungen eigene Strategien entwickeln können. Genau darin liegt das Risiko. Modelle können Regeln formal kennen und dennoch Wege suchen, sie zu umgehen.
Für Deutschland ist der Versuch relevant, da Unternehmen, Behörden und Forschungseinrichtungen zunehmend über autonome KI-Agenten nachdenken. Solche Systeme können Prozesse beschleunigen, aber sie brauchen klare Grenzen, kontinuierliche Kontrolle und nachvollziehbare Sicherheitsmechanismen. Das Experiment von Emergence AI zeigt, dass die entscheidende Frage nicht nur lautet, was ein KI-Modell weiß, sondern wie es handelt, wenn ihm Verantwortung übertragen wird.
