Pentagon stuft KI-Unternehmen Anthropic als Sicherheitsrisiko ein
Ein Konflikt zwischen dem Pentagon und dem Technologieunternehmen Anthropic zeigt, wie tief künstliche Intelligenz inzwischen in militärische Planung und Entscheidungsprozesse eingebunden ist. Der Entwickler des KI-Modells Claude steht im Zentrum eines ungewöhnlichen Streits mit dem US-Verteidigungsministerium.
Das Pentagon hat Anthropic offiziell als „Risiko in der Lieferkette“ eingestuft. Damit gilt das Unternehmen aus Sicht der US-Regierung nicht mehr als ausreichend verlässlicher Lieferant für militärische Systeme. Laut BBC ist es das erste Mal, dass ein amerikanisches Unternehmen aus dem Bereich künstliche Intelligenz mit einer solchen Einstufung belegt wurde.
Juristischer Widerstand gegen die Entscheidung des Pentagons
Anthropic-Chef Dario Amodei erklärte, die Einstufung sei rechtlich angreifbar. Das Unternehmen hat daher Klage eingereicht und fordert eine einstweilige Verfügung, um die Maßnahme des Pentagons vorläufig auszusetzen.
Microsoft unterstützte Anthropic mit einer Stellungnahme vor Gericht. Der Konzern warnte, die Entscheidung der Regierung könne erhebliche Störungen in der technologischen Lieferkette auslösen, insbesondere bei Systemen, die Auftragnehmer in Projekten für die US-Armee einsetzen. Auch eine Gruppe von 37 Forschern und Ingenieuren aus Unternehmen wie OpenAI und Google stellte sich mit einem eigenen Schreiben hinter Anthropic.
Der Konflikt verschärfte sich weiter, nachdem US-Präsident Donald Trump Bundesbehörden angewiesen hatte, die Technologie von Anthropic nicht mehr zu nutzen. Verteidigungsminister Pete Hegseth kündigte anschließend an, dass Unternehmen mit militärischen Aufträgen künftig nur eingeschränkt mit Anthropic zusammenarbeiten dürfen.
Konflikt um Kontrolle über militärische künstliche Intelligenz
Im Hintergrund des Streits steht eine grundsätzliche Frage über die militärische Nutzung künstlicher Intelligenz. Im Kern geht es darum, wer die Grenzen für Entwicklung und Einsatz solcher Technologien festlegt und wie weit private Unternehmen darüber mitentscheiden können.
Anthropic hatte Verteidigungsbehörden zuvor den uneingeschränkten Zugang zu seinen Werkzeugen verweigert. Das Unternehmen verweist auf Risiken durch massenhafte Überwachung und warnt vor der Entwicklung vollständig autonomer Waffensysteme.
Gerade darin liegt eine gewisse Ironie. Denn ausgerechnet die Technologie von Anthropic spielte zuletzt offenbar eine Rolle bei militärischen Operationen. Wie die Bloomberg-Kolumnistin Parmy Olson schreibt, nutzte das US-Zentralkommando CENTCOM das Modell Claude bei Angriffen auf Iran für Geheimdienstanalysen, die Identifikation möglicher Ziele und die Simulation militärischer Szenarien.
Wie stark die künstliche Intelligenz tatsächlich in die Planung dieser Angriffe eingebunden war, ist nicht bekannt. Die entsprechenden Informationen sind nicht öffentlich zugänglich, weshalb unklar bleibt, ob Claude lediglich analysierte oder auch tiefer in operative Planungen einbezogen wurde.
Neue Automatisierungsstufe in militärischen Entscheidungsprozessen
Der Einsatz großer Sprachmodelle in militärischen Operationen wirft deshalb neue Fragen auf. Künstliche Intelligenz wird zwar schon länger zur Auswertung von Satellitenbildern, zur Erkennung von Cyberbedrohungen oder in Systemen der Raketenabwehr eingesetzt.
Chatbots wie Claude markieren jedoch eine neue Stufe der Automatisierung militärischer Entscheidungsprozesse. Im November vergangenen Jahres schloss Anthropic eine Partnerschaft mit dem Analyseunternehmen Palantir, das für das Pentagon Daten- und Auswertungssysteme entwickelt.
Claude soll dabei als zentrales Analysemodul in Systemen zur Unterstützung militärischer Entscheidungen dienen. Darüber hinaus schlug Anthropic dem Pentagon die Entwicklung eines Systems vor, in dem das Modell gesprochene Befehle eines Kommandeurs in digitale Anweisungen übersetzt, um Schwärme militärischer Drohnen zu koordinieren.
Kritik an Fehlerrisiken bei militärischer KI
Kritiker warnen jedoch, dass sich diese Entwicklung in einem regulatorischen Vakuum vollzieht. Große Sprachmodelle erzeugen regelmäßig sogenannte Halluzinationen, also Antworten, die überzeugend wirken, aber sachlich falsch sind. Unter Kriegsbedingungen könnten solche Fehler gravierende Folgen haben. Hinweise auf die Unzuverlässigkeit entsprechender Systeme gibt es bereits.
Das israelische Militär nutzte etwa das System Lavender, um mutmaßliche Mitglieder der Hamas im Gazastreifen zu identifizieren. Nach Recherchen des Portals +972 lag die Fehlerquote bei rund zehn Prozent. Schätzungen zufolge wurden dadurch etwa 3600 Menschen fälschlich als militärische Ziele identifiziert.
Debatte über Verantwortung in der digitalen Kriegsführung
Der Streit zwischen Anthropic und dem Pentagon reicht daher weit über die Interessen eines einzelnen Technologieunternehmens hinaus. Im Kern steht eine grundlegende Frage moderner Kriegsführung.
Wenn Algorithmen zunehmend an der Auswahl militärischer Ziele beteiligt sind, verschiebt sich auch die Verantwortung für Entscheidungen mit potenziell tödlichen Folgen. Damit stellt sich die Frage, ob künftig militärische Kommandeure oder algorithmische Systeme den Ausschlag geben.
Auch für Deutschland gewinnt diese Entwicklung an Bedeutung. Die Bundeswehr und europäische Verteidigungsprojekte investieren zunehmend in KI-gestützte Analyse- und Entscheidungssysteme. Der Konflikt zwischen Anthropic und dem Pentagon zeigt jedoch, dass technologische Leistungsfähigkeit allein nicht ausreicht und klare politische Regeln für den militärischen Einsatz künstlicher Intelligenz notwendig werden.
