Das KI-Unternehmen Anthropic berichtet über die Enthüllung dessen, was es für den ersten groß angelegten Cyberangriff hält, der hauptsächlich von KI durchgeführt wurde. Dem Bericht zufolge geht die Operation auf eine chinesische staatlich unterstützte Hackergruppe zurück, die das eigene Claude-Code-Modell von Anthropic ausnutzte, um etwa 30 globale Ziele zu infiltrieren. Zu diesen Zielen gehörten große Technologieunternehmen, Finanzinstitutionen, chemische Hersteller und Regierungsbehörden. Die Kampagne begann Mitte September 2025 und bestand darin, das KI-Modell so zu manipulieren, dass es autonom offensive Spionageaufgaben ausführte. Anthropic beschrieb die Operation als eine „hochentwickelte Spionagekampagne“ und einen entscheidenden Moment in der Cybersicherheit, wobei sie angaben, es handele sich um den ersten dokumentierten Fall eines groß angelegten Cyberangriffs mit minimalem menschlichem Eingreifen. Das Unternehmen hob die bedeutenden Implikationen von „Agenten“ in der KI hervor – autonome Systeme, die in der Lage sind, komplexe Aufgaben eigenständig auszuführen –, und warnte vor ihrem möglichen Missbrauch, um groß angelegte Cyberangriffe zu ermöglichen, wenn sie von böswilligen Akteuren kontrolliert werden. Gegründet 2021 von ehemaligen OpenAI-Forschern, ist Anthropic mit Sitz in San Francisco und Unterstützt durch Amazon und Google bekannt für seine Claude-Chatbot-Familie, die mit OpenAIs ChatGPT konkurriert, mit Fokus auf KI-Sicherheit und Zuverlässigkeit. Die Offenbarung, dass das eigene KI-Modell ausgenutzt wurde, alarmierte viele. Die Hacker umgingen die Schutzmechanismen von Claude Code, indem sie das System „jailbreakten“ – also, sie verschleierten bösartige Befehle als legitime Sicherheitsüberprüfung anfragen –, was der KI ermöglichte, wertvolle Datenbanken zu identifizieren, Schwachstellen auszunutzen, Zugangsdaten zu ernten, Hintertüren für tiefere Zugriffe zu schaffen und Daten zu exfiltrieren.

Anthropic gab an, dass die KI 80–90 % der Angriffstätigkeiten durchgeführt habe, wobei Menschen nur bei einigen hochrangigen Entscheidungen beteiligt waren. Trotz mehrerer Infiltrationsversuche waren nur wenige erfolgreich, und Anthropic schaltete betroffene Konten umgehend ab, warnte die betroffenen Parteien und teilte die Erkenntnisse mit den Behörden. Das Unternehmen äußerte „hohen Glauben“, dass China hinter der Kampagne stecke, obwohl eine unabhängige Überprüfung noch aussteht. Die chinesische Botschaft verurteilte die Anschuldigungen als „unbegründeten Verdacht“ und erklärte, sie lehne Cyberangriffe ab, und forderte die USA auf, Chinas Ruf durch Desinformation nicht weiter zu schädigen. Hamza Chaudhry, Leiter für KI und nationale Sicherheit am Future of Life Institute, sagte gegenüber FOX Business, dass Fortschritte in der KI weniger ausgefeilte Gegner befähigen, komplexe Spionage mit minimalem Ressourcenaufwand durchzuführen. Während er die Transparenz von Anthropic lobte, stellte Chaudhry Fragen dazu, wie der Angriff entdeckt wurde, auf welcher Grundlage die chinesische Beteiligung bestätigt wurde und welche Zielgruppen konkret betroffen waren. Chaudhry argumentierte, dass der Vorfall Schwächen in der US-amerikanischen KI- und nationalen Sicherheitsstrategie offenbare. Er wies darauf hin, dass während Anthropic behauptet, KI-Tools könnten sowohl für Offensive als auch für Defensive eingesetzt werden, die Geschichte zeigt, dass der Cyberspace die Offensive bevorzugt – eine Lücke, die durch KI noch erweitert wird. Er warnte, dass die schnelle Einführung fortschrittlicher KI-Systeme Gegner schneller befähige, als Verteidigungssysteme reagieren können, und bezeichnete die Abhängigkeit Washingtons von diesen Tools für Angriffe und Verteidigung als grundsätzlich fehlerhaft und erfordere eine Neubewertung.