Anthropic: Gefürchtetes KI-Modell erschüttert Banken und Regierungen

Mythos soll Schwachstellen in der KI-Cybersicherheit aufdecken

Das KI-Unternehmen Anthropic will laut US-Medien 70 weiteren Akteuren Zugang zum derzeit meistdiskutierten KI-Modell Mythos geben, darunter europäischen Banken. Das Weiße Haus stellt sich gegen den Plan. Das berichten unsere Kollegen von Børsen. Das KI-Unternehmen Anthropic sorgte kürzlich für Aufsehen, als es ein neues KI-Modell mit dem Namen Mythos vorstellte. Es ist dafür entwickelt, Sicherheitslücken in IT-Systemen zu finden, und hat nach Angaben des Unternehmens selbst bereits bislang unentdeckte Lücken in „allen großen Betriebssystemen und Internetbrowsern“ gefunden.

Da das Modell die „Cybersicherheit umwälzen“ könne, wie das Unternehmen schreibt, hat Anthropic es zunächst nur mit 50 sorgfältig ausgewählten Akteuren geteilt. Dazu zählen unter anderem der amerikanische Staat, amerikanische Banken und Unternehmen wie Apple, Amazon, Google, Microsoft und Nvidia. Nun will Anthropic weiteren 70 Akteuren Zugang zu dem Modell geben. Das schreibt The Wall Street Journal. Die Zeitung berichtet auch, dass das Weiße Haus sich gegen den Plan gestellt hat.

Weißes Haus fürchtet Risiken durch die Ausweitung

Die Idee hinter der Weitergabe des Modells an eine begrenzte Zahl kritischer Akteure besteht darin, dass diese sich auf potenzielle Angriffe vorbereiten können, sobald und falls böswillige Akteure KI-Modelle mit denselben Fähigkeiten wie Mythos schaffen. „Angesichts der Geschwindigkeit, mit der sich KI entwickelt, wird es nicht lange dauern, bis sich solche Fähigkeiten verbreiten. Möglicherweise auch zu Akteuren, die nicht daran interessiert sind, sie auf sichere Weise zu nutzen. Die Folgen können schwerwiegend sein. Das gilt für die Wirtschaft sowie für die öffentliche und nationale Sicherheit“, schrieb Anthropic Anfang April über seine Begründung. Anthropic will laut Reuters unter anderem europäischen Banken Zugang zu dem Modell geben.

Kann an Rechenleistung fehlen

In der vergangenen Woche forderte der Präsident der Deutschen Bundesbank, Joachim Nagel, Anthropic ausdrücklich dazu auf, den Zugang auf Europa auszuweiten. Er sah es als klaren Wettbewerbsvorteil für amerikanische Banken, dass nur sie Zugang erhalten hatten. „Dieses KI-Modell scheint ein zweischneidiges Schwert zu sein, da es nicht nur dazu genutzt werden kann, digitale Sicherheitssysteme zu verbessern, sondern auch deren Schwächen für böswillige Zwecke auszunutzen“, sagte Joachim Nagel. Nach Angaben des Wall Street Journal wendet sich das Weiße Haus jedoch aus Gründen der „Sicherheit“ gegen eine Ausweitung des Zugangs zu Mythos. Zudem fürchtet der amerikanische Staat, dass Anthropic nicht über ausreichend dahinterliegende Rechenleistung verfügt, damit der Staat das Modell voll nutzen kann, wenn zusätzlich 70 neue Akteure darauf zugreifen sollen.

Für Deutschland hat der Zugang zu Mythos unmittelbare Bedeutung, da Banken, Unternehmen und öffentliche Stellen zunehmend von KI-Cybersicherheit abhängig sind. Sollte das Modell tatsächlich bislang unentdeckte Schwachstellen in zentralen Systemen sichtbar machen, könnte Europa im Schutz kritischer Infrastruktur aufholen. Das Fazit lautet daher, dass Mythos nicht nur ein technologischer Durchbruch ist, sondern auch ein geopolitischer Machtfaktor. Wer Zugang erhält, gewinnt möglicherweise einen entscheidenden Vorsprung bei der Abwehr künftiger Cyberangriffe.

Mythos hat Staaten und Unternehmen weltweit allein durch die Menge an Sicherheitslücken und Fehlern erschüttert, die das KI-Modell bereits entdeckt hat. Bemerkenswert ist, dass kein Mensch diese Lücken zuvor entdeckt hatte. Als Anthropic seine erste Version von Mythos, Mythos Preview, am 7. April vorstellte, schrieb das Unternehmen, dass das Modell selbst von Nutzern eingesetzt werden könne, die keinerlei Spezialkenntnisse in der Cybersicherheit besitzen. „Ingenieure bei Anthropic ohne formale Sicherheitsschulung haben Mythos Preview gebeten, über Nacht Schwachstellen zu finden, und sind am nächsten Morgen mit vollständigen, funktionalen Hacking-Werkzeugen aufgewacht“, schrieb Anthropic. „Die Schwachstellen, die es findet, sind oft subtil oder schwer zu entdecken. Viele von ihnen sind 10 oder 20 Jahre alt“, schrieb Anthropic außerdem.