KI-Phishing verändert die Regeln der Cyberkriminalität
Künstliche Intelligenz schreibt nicht nur perfekt redigierte E-Mails. Sie kann Sicherheitssysteme wirksam täuschen und Nachrichten imitieren, die scheinbar aus einer sicheren Quelle stammen. Die Hoffnung liegt darin, dass sie eine zweischneidige Waffe ist. Sie hilft auch im Kampf gegen Kriminelle. Das berichten unsere Kollegen von Puls Biznesu.
Noch vor wenigen Jahren ließ sich Phishing relativ leicht erkennen. Eine verdächtige Absenderadresse, holprige Sprache, ein merkwürdiger Link, Rechtschreibfehler. Das ist Vergangenheit. KI verändert die Landschaft der Cyberbedrohungen radikal. Sie hilft Cyberkriminellen, perfekte Nachrichten zu schreiben, Opfer automatisch zu profilieren, komplexe Phishing-Kampagnen zu entwickeln, die Sicherheitssysteme in Unternehmen umgehen, gefälschte Webseiten zu bauen, die kaum vom Original zu unterscheiden sind, sowie Deepfakes mit Stimme und Video zu erstellen. Dieselbe Technologie gibt Unternehmen neue Werkzeuge zur Verteidigung. Dazu gehören intelligente Anomalieerkennung, automatische Blockierung von Angriffen und die Analyse verdächtiger Inhalte in Echtzeit. Es ist ein Wettrüsten. Gerade läuft seine intensivste Phase.
Die COVID-19-Pandemie war ein Wendepunkt in der Entwicklung der Cyberkriminalität rund um Erpressung, Betrug und Phishing. Globale Lockdowns, der massenhafte Wechsel ins Homeoffice und der sprunghafte Anstieg der Online-Aktivität schufen ideale Bedingungen für die Eskalation von Phishing-Angriffen. Daten der Anti-Phishing Working Group zeigen das Ausmaß des Problems. Im vierten Quartal 2015 wurden 158.000 Phishing-Angriffe registriert. Vier Jahre später waren es 162.000. Im Jahr 2020 verdoppelte sich die Phishing-Aktivität nahezu, und im ersten Quartal 2025 erreichte die Zahl der registrierten Angriffe mit mehr als einer Million Vorfällen einen Rekordwert.
Das ist kein Zufall. Kriminelle begannen schnell, Themen rund um COVID-19 auszunutzen. Sie arbeiteten mit falschen Informationen über Impfungen, Zuschüsse, neue Sicherheitsverfahren oder Systemaktualisierungen. Angst, Unsicherheit und organisatorisches Chaos erhöhten die Wirksamkeit solcher Kampagnen erheblich.
Dann kam die generative KI, und mit ihr die Möglichkeiten, die große Sprachmodelle eröffnen.
Künstliche Intelligenz ist heute das Thema Nummer eins in kriminellen Milieus. Aus Untersuchungen des auf Cybersicherheit spezialisierten Unternehmens KnowBe4 geht hervor, dass die Zahl der Gespräche in Internetforen über KI im Zusammenhang mit Phishing innerhalb eines Jahres um 1500 Prozent gestiegen ist. Künstliche Intelligenz hat die Kostenschwelle für den Einstieg in kriminelle Phishing-Aktivitäten gesenkt und zugleich die Einnahmen aus diesem Geschäft deutlich erhöht. Wissenschaftler der Harvard University berechneten, dass die Profitabilität des betrügerischen Geschäfts durch den Einsatz von KI um das 50-Fache gestiegen ist.
Ursprünglich nutzten Kriminelle große Sprachmodelle für einfache Aufgaben, etwa die Redaktion von Texten für Phishing-Kampagnen, damit sie natürlicher klingen und keine sprachlichen Missbildungen enthalten. Mit der Zeit erkannten Kriminelle, dass das Potenzial von KI weit über die Funktion eines Redakteurs und Übersetzers hinausgeht. KI kann ein Werkzeug sein, um Daten über Opfer zu sammeln und Angriffsziele präzise zu bestimmen. Noch vor Kurzem erforderte die Vorbereitung einer wirksamen Spear-Phishing-Kampagne Zeit, Können und manuelle Recherche. Heute übernimmt das KI.
Sprachmodelle, sogenannte LLMs, wie GPT können perfekt klingende Phishing-Nachrichten schreiben, sie automatisch in viele Sprachen übersetzen, Ton und Stil an eine konkrete Person anpassen, Profile in sozialen Medien analysieren, ganze gefälschte Login-Seiten erzeugen und vollständige Phishing-Kampagnen automatisieren.
KI-Phishing überlistet Nutzer und Sicherheitssysteme
Wissenschaftler der University of Texas und der University of Illinois veröffentlichten im vergangenen Jahr Ergebnisse einer Studie, die an einer akademischen Gemeinschaft von 9000 Personen an einer amerikanischen Universität durchgeführt wurde. Es handelte sich um Fachleute aus unterschiedlichen Bereichen, darunter Dozenten, Verwaltungsangestellte, Administratoren und Studierende. Ihre Aufgabe bestand darin, Phishing-Nachrichten zu erkennen. Untersucht wurde die Wirksamkeit von drei Phishing-Szenarien. Es ging um E-Mails, die vom Vorgesetzten an Untergebene gesendet wurden, um auf Organisationsebene verteilte E-Mails zu einem wichtigen Ereignis und um typische Phishing-Nachrichten von unbekannten Konten.
Die Empfänger erhielten E-Mails, die von künstlicher Intelligenz und von Cybersicherheitsexperten redigiert worden waren. Die Studie zeigte, dass ein von LLMs erzeugter Phishing-Angriff ebenso effektiv war und in manchen Fällen sogar wirksamer als E-Mails, die von Cybersicherheitsexperten vorbereitet wurden. Nachrichten von künstlicher Intelligenz erreichten folgende Ergebnisse. Die Öffnungsrate lag bei 66,08 Prozent, die Klickrate auf den Link bei 12,72 Prozent. Bei E-Mails menschlicher Intelligenz betrug die Öffnungsrate 65,10 Prozent, die Klickrate 10,11 Prozent. Bei Kampagnen vom Typ Fast Phishing ist der Vorsprung der LLMs deutlich ausgeprägter. Bei automatisch erzeugten Kampagnen lag die Öffnungsrate bei 66,08 Prozent, und der Anteil der Klicks auf den Link sprang auf 17,62 Prozent. Von Menschen geschriebene E-Mails hatten dagegen eine Öffnungsrate von 53,33 Prozent, und 9,78 Prozent der Links in der Nachricht wurden angeklickt.
Die Senkung der Kosten ist das eine. Künstliche Intelligenz hat auch die Wissensbarriere durchbrochen und Zugang zu Informationen ermöglicht, die bis vor Kurzem Spezialisten vorbehalten waren. Beim Phishing ist das von grundlegender Bedeutung. KI bedeutet nicht mehr nur LLMs, die eingesetzt werden, um überzeugendere und personalisierte E-Mails zu schreiben. Kriminelle nutzen sie, um Sicherheitssysteme mit mehreren Umgehungstechniken zu täuschen, die früher bei komplexen Angriffen verwendet wurden. Die Analyse von Phishing-Angriffen auf Sicherheitssysteme und E-Mail-Systeme von Konzernen zeigt, dass in der Hälfte der Fälle Schutzmechanismen auf mindestens vier Arten umgangen wurden.
Das Portal TechRadar beschrieb die Revolution, die KI im Phishing ausgelöst hat, mit einem anschaulichen Bild. Man soll sich vorstellen, eine Rolex in der Hand zu halten. Sie stammt nicht vom Schweizer Hersteller, hat aber auch nichts mit billigen Fälschungen zu tun, die Touristen angeboten werden. Das Uhrwerk ist schweizerisch. Das Glas ist Saphirglas. Das Armband besteht aus Stahl 904L, derselben Legierung, die Rolex verwendet. Jedes Element ist echt, stammt von realen Zulieferern und wurde mit wirklichem Können gefertigt. Von einer echten Rolex unterscheidet sie sich durch die Firmenkrone auf dem Zifferblatt, die auf die falsche Herkunft verweist.
Die Analogie zur KI besteht darin, dass KI-gestütztes Phishing viele Techniken verwendet, um echter Post zu ähneln. Ein Beispiel ist ein Angriff mit QR-Code gegen einen Nutzer von Google Workspace. Die E-Mail enthält keine URL. In ihr ist ein QR-Code eingebettet, wodurch automatische Scanner nichts analysieren können. Der Code führt zu einem CAPTCHA-Gateway und blockiert Testumgebungen. Dahinter verbirgt sich eine mehrstufige Weiterleitung über vertrauenswürdige Cloud-Dienstleister, zunächst AWS und anschließend Cloudflare, die zu einer Seite führt, welche Zugangsdaten sammelt und sich als Microsoft-MFA-Abfrage ausgibt.
Manchmal braucht es wirklich wenig, um Sicherheitssysteme zu verwirren. Wissenschaftler der Stanford University führten ein interessantes Experiment durch, das die Wirksamkeit von Gmail Spam Filter, SpamAssassin und Proofpoint beim Abfangen von E-Mails prüfte, die im Rahmen einer Phishing-Kampagne nach der Methode des Nigeria-Betrugs verschickt wurden. Dabei geht es um eine Erbschaft von einem Verwandten, eine Spende eines Prinzen oder Milliardärs. Ein Klassiker.
Gmail Spam Filter erreichte ein Ergebnis von 97,88 Prozent korrekt identifizierter Nachrichten, SpamAssassin 96,75 Prozent und Proofpoint 95,88 Prozent. Nach einer Paraphrase und Textänderung, die ChatGPT-4 vorgeschlagen hatte, fiel die Erkennungsgenauigkeit auf 92 Prozent bei Gmail Spam Filter und auf 89,75 Prozent bei SpamAssassin. Proofpoint fing 93 Prozent der Phishing-Nachrichten ab.
Aus Untersuchungen zu V-Triad-Strukturen an der Harvard Kennedy School geht hervor, dass künstliche Intelligenz beim Täuschen weiterhin weniger wirksam ist als der Mensch. Doch die Verbindung aus KI und menschlicher List ist sehr gefährlich.
Was ist die V-Triade? Es handelt sich um ein psychologisches Modell in der Cybersicherheit, das zur Gestaltung und Analyse der Wirksamkeit von Phishing-Angriffen eingesetzt wird. Der Name stammt vom Nachnamen des Schöpfers Arun Vishwanath und vom Wort "Triade", da die gesamte Struktur auf drei Säulen beruht. Die erste ist Glaubwürdigkeit. Der Angreifer kopiert offizielle Logos, Fußzeilen und Adressen, die das Opfer kennt und für sicher hält. Die zweite ist kontextuelle Anpassung und Relevanz. Der Angreifer nutzt Themen, Fragen und Projekte, mit denen sich das Opfer beschäftigt. Die dritte ist Personalisierung. Phishing ist nicht anonym, sondern auf eine konkrete Person gerichtet.
Die Wissenschaftler führten ein Experiment mit 112 Teilnehmern durch und setzten sie Angriffen aus, die manuell mithilfe der V-Triade erzeugt wurden, von ChatGPT-4 stammten, eine Kombination aus beidem nutzten oder klassisches Phishing darstellten. Im letzten Fall, also bei standardisiertem, anonymem "Spam"-Phishing, lag die Klickrate bei 19 bis 28 Prozent. ChatGPT erwies sich als wirksamer. Betrügerische Nachrichten, die künstliche Intelligenz geschrieben hatte, öffneten und klickten anschließend 30 bis 44 Prozent der untersuchten Personen an. Sehr hohe Wirksamkeit erreichten Kampagnen, die Spezialisten auf Basis der V-Triade aufgebaut hatten.
Die Verbindung menschlicher und künstlicher Intelligenz erreichte in einigen Untersuchungswellen noch mehr. Die Klickrate lag bei 43 bis 81 Prozent.
KI-Phishing zwingt Unternehmen zu neuer Verteidigung
Einer der Grundbegriffe in der Cybersicherheit ist das sogenannte Verteidiger-Dilemma, das die Asymmetrie zwischen Angreifer und Verteidiger beschreibt. Sie besteht darin, dass der Angreifer nur einmal erfolgreich sein muss. Er muss eine Lücke finden, einen menschlichen Fehler ausnutzen oder ein einziges nicht gepatchtes Gerät treffen. Der Verteidiger dagegen muss ständig wirksam sein. Er muss alle Systeme, Nutzer und Prozesse gleichzeitig schützen.
Wissenschaftler der National University of Singapore argumentieren, dass künstliche Intelligenz helfen kann, das Verteidiger-Dilemma umzukehren. Große Sprachmodelle unterstützen immer wirksamer das Erkennen von Sicherheitslücken, Phishing oder Netzwerkbedrohungen. Zugleich helfen sie weniger erfahrenen Teams, schneller Kompetenzen im Bereich Sicherheit aufzubauen. KI wird damit zu einem großen Chancenangleicher.
Wie wahrscheinlich ist es, dass jemand Opfer von Cyberkriminellen wird? Mit der Entwicklung von Phishing-Techniken können immer mehr Menschen diese Erfahrung machen, unabhängig von Umfeld oder finanzieller Lage. Cyberkriminalität gehört heute zu den größten globalen Herausforderungen. Künstliche Intelligenz eröffnet enorme Möglichkeiten beim Schutz von Verbrauchern und Unternehmen, doch die andere Seite nutzt ähnliche Mechanismen.
Darauf ist besonders hinzuweisen, denn noch vor Kurzem ließen sich viele Phishing-Versuche an Sprachfehlern oder zufälligen Inhalten erkennen. Heute nehmen sie immer häufiger die Form personalisierter Identitätsmanipulation an und passen sich einer konkreten Situation an. Eine Nachricht über eine Zuzahlung für eine Sendung kann wie eine echte Mitteilung eines Kurierdienstes aussehen, besonders wenn der Empfänger auf ein Paket wartet. Eine E-Mail vom "Vorgesetzten" kann in einem Ton verfasst sein, den man aus der täglichen Arbeit kennt. Bei romantischen Betrügereien kann KI helfen, den Anschein von Nähe und Vertrauen aufzubauen, um diesen später auszunutzen und das Opfer zur Überweisung von Geld zu bewegen.
In vielen Fällen geht es daher nicht um Naivität, sondern um professionell vorbereitete Manipulation. Betrüger nutzen Eile, Müdigkeit, Vertrauen in bekannte Marken oder persönliche Beziehungen aus und schaffen Situationen, in denen das Anklicken eines Links, die Weitergabe von Daten oder eine Überweisung wie ein logischer Schritt wirken kann.
Eine der jüngsten Visa-Studien zeigte, dass polnische Verbraucher, die in sozialen Medien KI-generierte Inhalte mit authentischen Inhalten verwechseln, mehr als viermal so stark von Betrug bedroht sind wie jene, die solche Materialien erkennen. Die Studie wurde vom Unternehmen Opinium im Auftrag von Visa zwischen August und September 2025 durchgeführt. Sie umfasste 9500 Erwachsene über 18 Jahre, repräsentativ für jeden der elf Märkte in Europa, darunter Großbritannien, Frankreich, Deutschland, Italien, Spanien, Polen mit einer repräsentativen Stichprobe von 1000 Erwachsenen, Ungarn, Rumänien, Bulgarien, Tschechien und die Slowakei. Es ist nicht davon auszugehen, dass es in den kommenden Jahren leichter wird. Die Lage erinnert an ein Wettrüsten, in dem unsere Widerstandskraft immer häufiger auch davon abhängt, wie gut wir das beurteilen können, was wir sehen oder hören.
Eine wirksame Antwort auf neue Formen des Betrugs erfordert deshalb die Zusammenarbeit von Wirtschaft, öffentlicher Verwaltung und Nichtregierungsorganisationen. Visa betrachtet Cyberbedrohungen durch Erfahrungen, die über mehr als 30 Jahre gesammelt wurden, und nutzt KI sowie maschinelles Lernen zur Risikosteuerung und Betrugsbekämpfung. Heute hat diese Erfahrung besondere Bedeutung, denn die Bedrohungsskala wächst, und die Reaktionszeit ist entscheidend, um ihr entgegenzuwirken. Die Lösungen analysieren mit fortgeschrittenen KI-Modellen Milliarden von Transaktionsmustern und helfen, Betrug zu erkennen und zu stoppen, bevor Schaden entsteht. Allein zwischen Juli 2024 und Juni 2025 halfen sie dabei, in Europa Verluste von fast vier Milliarden Euro zu verhindern. Grundlage sind Daten von Visa Advanced Authorisation vom Januar 2026.
In Polen engagiert sich Visa zudem unter anderem im Programm zur Zusammenarbeit in der Cybersicherheit, das vom Digitalisierungsministerium geführt wird, und unterstützt die Arbeit der Digital University. In beiden Fällen ist das Ziel dasselbe. Verbraucher, Unternehmer und Institutionen sollen widerstandsfähiger werden, bevor sich eine Bedrohung in einen Verlust verwandelt, in Geld, Zeit, Nerven und Vertrauen.
Für Deutschland ist KI-Phishing ebenfalls ein unmittelbares Wirtschaftsthema. Deutsche Unternehmen, Banken, Mittelständler, Zahlungsdienstleister und öffentliche Einrichtungen stehen vor derselben Entwicklung. Je stärker Geschäftsprozesse, Lieferketten und Finanztransaktionen digitalisiert werden, desto wertvoller werden Vertrauen, schnelle Erkennung und geschulte Mitarbeiter. Besonders im deutschen Mittelstand kann ein einziger erfolgreicher Angriff Rechnungsprozesse, Kundendaten oder Zahlungsströme gefährden. KI-Phishing wird damit nicht nur zu einer IT-Frage, sondern zu einem Risiko für Wettbewerbsfähigkeit, Betriebssicherheit und digitale Geschäftsmodelle. Vertrauen ist in diesem Zusammenhang der wichtigste Einsatz. Ohne Vertrauen lässt sich schwer über die weitere Entwicklung des digitalen Handels, von Finanzdienstleistungen oder neuer Nutzungsmodelle für Technologie sprechen. Innovationen haben dann Sinn, wenn Nutzer wissen, dass sie bequem, aber auch sicher und bewusst mit ihnen umgehen können.
Am Ende steht ein Appell an alle. Wenn eine Nachricht Unruhe, Euphorie, Mitgefühl oder Druck auslöst, sollte man einen Schritt zurücktreten. Nicht auf den Link klicken. Nicht unter dem Einfluss von Emotionen antworten. Die Angelegenheit über einen anderen Kanal prüfen, über die Bank-App, die offizielle Webseite oder direkten Kontakt. In einer Welt, in der Betrug immer überzeugender wird, kann ein Moment des Nachdenkens eine der wichtigsten Formen des Schutzes sein.
