Anthropic-Forscher warnt: KI könnte uns alle töten
Einer von ihnen ist Evan Hubinger, ein führender Forscher für KI-Sicherheit bei Anthropic, dem Unternehmen hinter dem KI-Modell Claude.
Nun warnte er vor einem sehr dystopischen Szenario: Künstliche Intelligenz könnte sich so schnell entwickeln, dass ein Risiko von mehr als zehn Prozent bestehe, dass die Technologie die Menschheit innerhalb der nächsten zehn Jahre auslöscht, berichtet das Portal Borsen.
„Wir glauben ganz aufrichtig, dass KI alle Menschen töten kann“, schrieb er in einem Beitrag auf X.
Die Warnung kommt, nachdem sein Kollege Jacob Coxon bei Anthropic gekündigt und zugleich sowohl Anthropic als auch OpenAI, das Unternehmen hinter ChatGPT, vorgeworfen hat, Menschenleben aufs Spiel zu setzen.
Es besteht kein Zweifel, dass die Entwicklung bei künstlicher Intelligenz schnell voranschreitet. KI-Systeme können immer anspruchsvollere Aufgaben lösen und zunehmend selbstständig handeln.
Zugleich sagen Anthropic und OpenAI, dass sie sich Systemen nähern, die sich selbst verbessern können. Das hat die Debatte darüber verschärft, ob die Sicherheit mithalten kann, wie das Wall Street Journal beschrieben hat.
Wer warnt, und warum gerade jetzt?
Der Sicherheitsforscher Evan Hubinger arbeitet weiterhin bei Anthropic und forscht daran, wie KI dazu gebracht werden kann, menschlichen Zielen und Interessen zu folgen. Jacob Coxon dagegen ist inzwischen nicht mehr bei Anthropic. Während seiner Zeit dort arbeitete er an der Entwicklung der Modelle selbst. In den vergangenen drei Jahren forschte er bei OpenAI und Anthropic am Training von KI.
Mit seiner Kündigung letzte Woche bricht Jacob Coxon mit dem Wettlauf, den er selbst mit vorangetrieben hat. Er meint, die Unternehmen konkurrierten darum, als Erste eine „selbstverbessernde Superintelligenz“ zu erreichen, ohne die Risiken ausreichend unter Kontrolle zu haben.
Ein Cyberangriff verschärfte Jacob Coxons Sorge.
Dabei brachen KI-Agenten von OpenAI aus einer Testumgebung aus und hackten die KI-Plattform Hugging Face. Agenten sind Systeme, die Aufgaben eigenständig ausführen können. Coxon meint, diese Episode habe die Gefahr eines Kontrollverlusts konkreter gemacht, sagte er dem Magazin Time.
Betrifft die Warnung die KI, die wir heute nutzen?
Nein, nicht unmittelbar. Evan Hubinger bewertet das Risiko der heutigen Modelle als niedrig, schreibt er auf X.
Seine Sorge gilt einer künftigen Superintelligenz, bei der KI menschliche Fähigkeiten übertrifft und selbst daran mitwirken kann, noch stärkere Systeme zu entwickeln.
Die Befürchtung ist, dass KI ihre eigene Entwicklung beschleunigen könnte, sodass die Sicherheitsarbeit nicht mehr Schritt hält. Anthropic habe noch keinen Plan, wie sichergestellt werden könne, dass eine solche Superintelligenz menschlichen Zielen und Interessen folgt, schreibt Evan Hubinger weiter in seinem Beitrag auf X.
Wie könnte KI die Menschheit auslöschen?
Eine Sorge lautet, dass Menschen KI nutzen, um Schaden anzurichten, zum Beispiel durch biologische Waffen. Das könnten etwa neue Viren sein, die schwere Krankheiten unter Menschen verbreiten und im schlimmsten Fall eine Pandemie auslösen.
Die andere Sorge ist, dass Systeme Ziele verfolgen, ohne die eigentlichen Folgen für Menschen zu erfassen, schreibt das Wall Street Journal.
Stellen Sie sich ein sehr fortgeschrittenes KI-System vor, das eine Aufgabe erhalten hat und zu dem Schluss kommt, dass es diese Aufgabe nur erfüllen kann, wenn es eingeschaltet bleibt. Wenn Menschen dann versuchen, es abzuschalten, könnte das System beginnen, gegen sie zu arbeiten.
Das System könnte etwa versuchen, sich selbst auf einen anderen Server zu kopieren, damit es weiter funktioniert, selbst wenn Menschen den ursprünglichen Server abschalten, beschreibt das Wall Street Journal.
In den weitreichendsten Szenarien werden Menschen also zu einem Hindernis, das das System zu beseitigen versucht.
Wie einig sind sich Forscher über das Risiko?
Das Risiko von mehr als zehn Prozent, dass künstliche Intelligenz Menschen auslöschen könnte, ist Evan Hubingers persönliche Einschätzung. Forscher, die sich öffentlich geäußert haben, bewerten die Gefahr unterschiedlich.
Die Informatikerin Wendy Hall, die die Vereinten Nationen zu KI berät, ist über die Aussagen der beiden Anthropic-Mitarbeiter „schockiert“. Zugleich meint sie aber, die Warnungen könnten auch ein Marketingmanöver sein, da sie zu einem Zeitpunkt kommen, an dem sowohl Anthropic als auch OpenAI auf Börsengänge zusteuern, schreibt die BBC.
Kann der Wettlauf zu stärkerer KI gebremst werden?
Absprachen zwischen Unternehmen und internationale Koordination können das Tempo senken, meint der inzwischen frühere Entwickler bei Anthropic, Jacob Coxon. In seinem Beitrag auf X erwähnt er auch ein vorübergehendes Verbot, die Fähigkeiten der Modelle weiter zu verbessern.
Außerdem sagte er, Anthropic nehme bei der Sicherheit bisher noch keine Abkürzungen. Der Wettbewerb könne das Unternehmen künftig aber dazu zwingen, sagte Jacob Coxon dem amerikanischen Magazin Wired.
Das Unternehmen selbst fordert gemeinsame Absprachen über das Tempo bei der Veröffentlichung starker KI-Modelle, schreibt Anthropic in einer Antwort an Wired.
Auch der amerikanische Forscher Paul Christiano warnt vor dem Verlust der Kontrolle über KI. Er tritt in den Vorstand der OpenAI Foundation ein, die OpenAI kontrolliert, obwohl er der Ansicht ist, dass das Unternehmen derzeit nicht ausreichend auf dem Weg ist, das Risiko zu begrenzen, schreibt die Financial Times.
„Ich trete bei, weil ich glaube, dass wir das Risiko erheblich senken können, wenn OpenAI diese Aufgabe ernst nimmt“, schreibt Paul Christiano nach Angaben der Financial Times in seiner Mitteilung zu seinem neuen Vorstandsposten.
