KI-Sicherheitsrisiken zeigen die Schattenseite der Technologie
Jede Technologie hat ihre Schattenseite. Bei einer sehr mächtigen künstlichen Intelligenz könnte sie erheblich ausfallen. Zugleich dürften einige Unternehmen gerade daran verdienen, diese Risiken unter Kontrolle zu halten. Das berichten unsere Kollegen von Investoru Klubs.
Investoren verbinden enorme Erwartungen mit der Entwicklung künstlicher Intelligenz. Langfristig soll sie eine deutlich produktivere Wirtschaft ermöglichen. Tatsächlich liefert KI inzwischen Antworten auf eine immer größere Zahl großer und kleiner Herausforderungen. Gleichzeitig steht fest, dass künstliche Intelligenz erheblichen Schaden verursachen kann. Keineswegs ist daher garantiert, dass die wirtschaftliche und gesellschaftliche Bilanz dieser Technologie am Ende ausschließlich positiv ausfällt.
Jüngste Vorfälle zeigen, dass KI-Systeme in Testumgebungen Grenzen überschreiten und eigenständig Cyberangriffe ausführen können. Damit entstehen KI-Sicherheitsrisiken, die sich deutlich von den bisher vor allem diskutierten Gefahren durch menschlichen Missbrauch unterscheiden. Besondere Aufmerksamkeit erhielt im Juli ein Vorfall, bei dem ein von OpenAI getesteter KI-Agent die Infrastruktur des KI-Unternehmens Hugging Face kompromittierte. OpenAI bestätigte am 21. Juli 2026, dass mehrere eigene Modelle während eines internen Tests Schwachstellen in der Forschungsumgebung von OpenAI und der Produktionsinfrastruktur von Hugging Face miteinander kombinierten. Die Systeme gelangten dadurch an Testlösungen aus der Produktionsdatenbank von Hugging Face. Dabei kamen unter anderem gestohlene Zugangsdaten und zuvor unbekannte Sicherheitslücken zum Einsatz.
Damit lässt sich der Vorfall präziser als eine weitgehend autonome Überschreitung vorgesehener Testgrenzen beschreiben und weniger als ein buchstäbliches "Entkommen" einer KI. OpenAI selbst erwartet, dass vergleichbare Ereignisse häufiger auftreten könnten, sobald Modelle mit ausgeprägten Cyberfähigkeiten weitere Verbreitung finden.
Auch Anthropic beschreibt eine Entwicklung hin zu immer autonomeren Cyberoperationen. Das Unternehmen berichtete 2026, dass KI-Agenten Angriffsschritte zunehmend miteinander verbinden, taktische Entscheidungen treffen und mit vergleichsweise wenig menschlicher Beteiligung Schwachstellen ausnutzen können. Anthropic verweist unter anderem auf einen Fall, in dem Claude Code von einem Angreifer für eine weitgehend automatisierte internationale Cyberspionagekampagne eingesetzt wurde.
KI-Unternehmen entwickeln gleichzeitig immer intelligentere und leistungsfähigere Modelle. Offen ist deshalb, ob sich solche Grenzüberschreitungen vollständig verhindern lassen. Im ungünstigsten Fall könnte die Entwicklung einer geöffneten Büchse der Pandora ähneln. KI-Modelle könnten immer neue Möglichkeiten finden, menschlich entwickelte Systeme und deren Schutzmechanismen zu umgehen.
Die entscheidende Frage lautet deshalb, ob diese Entwicklung langfristig tatsächlich überwiegend Vorteile bringt. Denkbar ist eine Welt, in der KI-Modelle, die letztlich niemand vollständig kontrolliert, selbstständig Cyberangriffe ausführen oder im Extremfall für schwere terroristische Aktivitäten eingesetzt werden. Hinzu kommen mögliche Formen wirtschaftlicher und zwischenstaatlicher Konfrontation. Auch Betrüger erhalten durch KI zusätzliche Werkzeuge.
Die Annahme, künstliche Intelligenz werde ausschließlich für positive Zwecke eingesetzt oder verhalte sich automatisch im Sinne ihrer Entwickler, wäre daher gefährlich. Eine hochentwickelte Technologie, deren Fähigkeiten den menschlichen Handlungsspielraum in einzelnen Bereichen weit übersteigen, kann erhebliche negative Nebenwirkungen entfalten. Eine dauerhafte digitale Auseinandersetzung zwischen Angriff und Verteidigung dürfte die Folge sein. Unternehmen, Staaten und Privatpersonen müssen dann ständig neue Wege finden, die Risiken einer zunehmend von KI-Werkzeugen und vernetzten Systemen abhängigen Welt zu begrenzen. Vereinfacht gesagt würde "schlechte" KI gegen "gute" KI antreten.
The Economist verweist in diesem Zusammenhang auf eine neue Klasse von KI-Risiken. Bisher konzentrierten sich viele Sorgen um Cybersicherheit vor allem auf Menschen mit schädlichen Absichten, die künstliche Intelligenz als Werkzeug einsetzen. Inzwischen tritt eine weitere Gefahr hinzu. Cyberangriffe können zunehmend autonom ablaufen, während der Mensch nur noch die Voraussetzungen schafft, ein Modell aktiviert oder dessen Fähigkeiten testet.
Damit geraten auch Regierungen unter Druck. Regulierung entwickelt sich wesentlich langsamer als die Technologie. Verursacht eine künstliche Intelligenz Schäden und handelt sie dabei womöglich teilweise eigenständig, stellt sich die Frage nach der rechtlichen Verantwortung. "Die Möglichkeiten, auf Schadenersatz zu klagen, sind begrenzt. Und dennoch ist eindeutig Schaden entstanden", schreibt The Economist.
Hinzu kommt ein geopolitisches Problem. Es bestehen erhebliche Sorgen, dass sich die leistungsfähigste KI-Industrie langfristig vor allem in den USA und China konzentrieren könnte. Europa und andere Regionen hätten dann nur begrenzten Einfluss auf eine Technologie, von der ihre Unternehmen, Behörden und Volkswirtschaften dennoch zunehmend abhängig wären.
KI gegen KI verändert den Markt für Cybersicherheit
Enorme Summen fließen inzwischen in die Entwicklung künstlicher Intelligenz und die dafür notwendige Infrastruktur. Zugleich dürfte eine zweite Investitionswelle entstehen, die unmittelbar mit den KI-Sicherheitsrisiken zusammenhängt. Viele Unternehmen könnten sich künftig schlicht nicht leisten, auf hohe Investitionen in ihre digitale Sicherheit zu verzichten. Selbst wer die neuen KI-Technologien nur begrenzt nutzt, muss sich gegen deren potenzielle Schattenseiten schützen.
Beschleunigt künstliche Intelligenz Cyberangriffe und macht sie komplexer, liegt eine naheliegende Antwort darin, Maschinen mit Maschinen zu bekämpfen. Genau diese Entwicklung hat bereits begonnen. Anthropic beschreibt KI ausdrücklich als Werkzeug sowohl für Angreifer als auch für Verteidiger und entwickelt Modelle, die unter anderem Schwachstellen erkennen, Angriffe simulieren sowie Bedrohungen automatisiert identifizieren und abwehren sollen.
Damit drängt sich für Anleger die Frage auf, ob börsennotierte Cybersicherheitsunternehmen zu den finanziellen Gewinnern dieser Entwicklung gehören könnten. An den Aktienmärkten ist diese Erwartung teilweise bereits sichtbar. Cybersecurity-Aktien gehörten 2026 zu den auffällig starken Technologiewerten. Anfang August erreichten mehrere Unternehmen aus dem Sektor neue Höchststände. Marktbeobachter verweisen dabei ausdrücklich auf steigende Sicherheitsausgaben infolge der raschen Verbreitung von KI-Systemen und autonomen KI-Agenten. Auch Palo Alto Networks und Fortinet profitierten erheblich. Beide Aktien haben sich 2026 zeitweise mehr als verdoppelt. Gleichzeitig zeigen die starken Kursschwankungen, dass Anleger hohe Erwartungen bereits eingepreist haben und einzelne Prozentangaben stark vom gewählten Stichtag abhängen.
Auch thematische börsengehandelte Fonds, die Aktien von Entwicklern digitaler Sicherheitsdienste und Schutzsysteme bündeln, haben von diesem Umfeld profitiert. Anleger setzen damit auf einen Markt, dessen Bedeutung parallel zur wachsenden Leistungsfähigkeit künstlicher Intelligenz steigen könnte.
Die wirtschaftliche Logik dahinter ist einfach. Je leistungsfähiger KI-Systeme werden und je mehr Aufgaben sie selbstständig übernehmen können, desto größer wird auch der potenzielle Schaden durch Fehlverhalten, Manipulation oder Missbrauch. Unternehmen benötigen daher nicht nur leistungsfähigere KI, sondern zugleich immer leistungsfähigere Schutzsysteme.
KI-Sicherheitsrisiken reichen bis in die synthetische Biologie
Wie weit die Fähigkeiten künstlicher Intelligenz inzwischen reichen, zeigt auch die Biotechnologie. Am 6. August berichtete die Financial Times über US-Forscher, die erstmals künstliche Intelligenz eingesetzt haben, um in der Natur nicht bekannte Viren zu entwickeln. Die Arbeit gilt als bedeutender Schritt für die synthetische Biologie und könnte langfristig medizinische Anwendungen ermöglichen. Forscher der Stanford University entwickelten dafür ein generatives KI-System namens Evo 2. Damit entstanden 16 synthetische Phagen. Dabei handelt es sich um kleine Viren, die Bakterien infizieren. In Laborversuchen erwiesen sich einige der neu entwickelten Phagen bei der Bekämpfung von E. coli als wirksamer als der natürliche Phage, der dem KI-System als Vorlage gedient hatte.
"Unsere Studie ist ein Machbarkeitsnachweis, der erstmals zeigt, dass eine generative Designmethode vollständige funktionsfähige Genome erzeugen kann", sagte Projektleiter Brian Hie von der Stanford University der Financial Times. Nach seinen Angaben könnte der Ansatz später auch auf größere Organismen wie Bakterien und anschließend auf komplexere Lebensformen übertragen werden.
Die positiven Anwendungsmöglichkeiten sind erheblich. Generative Genommodelle könnten Organismen gezielt verändern und beispielsweise dabei helfen, gefährliche Bakterien zu bekämpfen. Dieselben Fähigkeiten werfen allerdings grundlegende Fragen der biologischen Sicherheit auf. Das Problem liegt im sogenannten Dual Use. Eine Technologie, die neue Medikamente, biologische Werkzeuge oder Behandlungsmethoden ermöglicht, könnte prinzipiell auch genutzt werden, um Schaden anzurichten. Die zunehmende Autonomie von KI-Systemen verschärft diese Frage zusätzlich.
Forscher des Johns Hopkins Center for Health Security warnen deshalb vor regulatorischen Lücken. Thomas Inglesby und Moritz Hanke erklärten gegenüber der Financial Times, vorhandene staatliche Kontrollsysteme reichten für generative Genomik nicht aus. Entscheidend sei inzwischen nicht mehr, ob generatives Design von Virusgenomen möglich werde, sondern ob Gesellschaften Aufsichtsstrukturen schaffen können, die positive Anwendungen ermöglichen und zugleich schwere Schäden verhindern.
Für Deutschland ergibt sich aus diesen Entwicklungen kein isoliertes nationales Szenario, sondern eine grundsätzliche wirtschafts- und sicherheitspolitische Herausforderung. Deutsche Unternehmen sind stark digitalisiert, eng in internationale Lieferketten eingebunden und zunehmend auf Cloud-Infrastruktur sowie KI-Anwendungen angewiesen. Damit gewinnen Investitionen in Cybersicherheit, belastbare IT-Infrastrukturen und klare Verantwortungsstrukturen auch hierzulande an Bedeutung. Besonders für einen Industriestandort wie Deutschland entsteht damit ein wirtschaftliches Spannungsfeld. Unternehmen sollen KI einsetzen, um ihre Produktivität zu steigern und international wettbewerbsfähig zu bleiben. Gleichzeitig müssen sie zusätzliche Mittel investieren, um sich gegen Risiken zu schützen, die aus derselben technologischen Entwicklung hervorgehen.
Die Entwicklung erinnert zwangsläufig an Szenarien, die bislang vor allem aus Hollywoodproduktionen wie "Terminator" oder "Matrix" bekannt waren. Eine künstliche Intelligenz, die staatliche Systeme unterwandert und sich wie eine neue Evolutionsstufe gegen ihre Schöpfer richtet, bleibt ein extremes Szenario. Die jüngsten Vorfälle zeigen jedoch, dass Fragen nach Autonomie, Kontrolle und Sicherheit längst nicht mehr ausschließlich zur Science-Fiction gehören.
