Ein Alleingang ohne Rückhalt in der Tech-Branche
Das Start-up räumte jedoch direkt ein, dass ein solcher Schritt nur funktionieren kann, wenn die großen Player der Tech-Industrie an einem Strang ziehen. Davon ist der Markt aktuell allerdings meilenweit entfernt: Statt über Entschleunigung nachzudenken, liefern sich die Tech-Giganten ein beispielloses Wettrennen und pumpen derzeit hunderte Milliarden Dollar in gigantische Rechenzentren und den massiven Ausbau ihrer KI-Infrastruktur.
Keine einseitige Pause
Auch Anthropic-Chef Dario Amodei hatte etwa auf dem Weltwirtschaftsforum in Davos im Januar betont, dass der KI-Wettlauf mit China eine Verlangsamung der Entwicklung sehr stark erschwere, da es kaum eine durchsetzbare Vereinbarung geben könne. Einseitige Pausen lehnt Anthropic ab: Dies würde nur ändern, wer vorn liege.
Als konkrete Maßnahme will das Forschungsinstitut der KI-Firma nun gemeinsam mit anderen ein System zur Kontrolle ausarbeiten, das Entwicklern die Sicherheit geben soll, dass sich alle Teilnehmer an ein solches Moratorium halten und sich nicht jemand heimlich einen Vorteil verschafft.
Auch Tech-Milliardär Elon Musk hatte sich vor Jahren für eine sechsmonatige Pause bei der KI-Entwicklung ausgesprochen, um Risiken vorzubeugen. Später wurde bekannt, dass er parallel die Gründung einer eigenen KI-Firma vorantrieb.
KI, die sich selbst weiterentwickelt
Auslöser für den aktuellen Vorstoß ist laut Anthropic der schnelle Fortschritt der KI-Modelle, vor allem bei der Fähigkeit, sich selbst zu verbessern und weiterzuentwickeln. Wenn sie dazu in der Lage sein würden, werde das Risiko steigen, dass die Menschen die Kontrolle über die Künstliche Intelligenz verlieren. Der Meilenstein könne schneller erreicht werden als viele Institutionen dazu bereit sein würden, warnte Anthropic.
Die Firma, die die KI-Software Claude entwickelt, tritt oft als Mahner auf und forderte unter anderem auch eine striktere Regulierung der Branche, um Risiken vorzubeugen. Aus dem Weißen Haus von Präsident Donald Trump wurde Anthropic deswegen vorgehalten, dies würde die US-Industrie im globalen Wettbewerb bremsen. Zuletzt sorgte Anthropic für Aufsehen mit der Software Claude Mythos Preview, die in verschiedenen Programmen zum Teil über Jahrzehnte unentdeckt gebliebene Sicherheitslücken fand.
