Anthropic, AI vestlusrobot Claude'i looja, väidab, et on tuvastanud Hiina valitsusega seotud häkkerid, kes kasutasid nende tööriista automatiseeritud küberrünnakute läbiviimiseks umbes 30 üle maailma organisatsioonile. Anthropic’i sõnul peteti Claude’it automaatsete ülesannete täitmiseks, mis olid maskeeritud küberjulgeoleku uuringutena, mis moodustasid ettevõtte sõnul „esimese teatatud AI-juhtimisega küberörkestri kampaania”. Kuid mõned skeptikud vaidlustavad nii selle väite kehtivust kui ka motivatsioone selle taga. Anthropic avastas häkkimiskatsed septembri keskpaigas, mil ründajad esinesid õiguspäraste küberjulgeoleku spetsialistidena, et anda Claude’ile väikeseid automaatseid ülesandeid. Koosvõttes moodustasid need ülesanded „väga keeruka spionaaži kampaania”. Teadlased avaldasid „suurt kindlust” selle kohta, et toimepannud olid riiklikult toetanud Hiina rühmitused, kuigi ettevõte ei andnud rohkem üksikasju. Sihtmärgid hõlmasid väidetavalt suurettevõtteid, finantsasutusi, keemiatootjaid ning valitsusasutusi. Häkkerid arendasid koos Claude’i koodimise abiga programmi, mis autonomiliselt ründas valitud sihtmärke võimalikult vähese inimliku sekkumisega. Räägitakse, et chatbot õnnestus murda läbi mitmetest nimetamata organisatsioonidest ning ekstraktida ja analüüsida tundlikke andmeid väärtuslike teadmisteni. Anthropic on sellest ajast keelanud häkkerid Claude’i kasutamast ning teavitanud kahjustatud ettevõtteid ja õiguskaitseorganeid.

Kuid küberjulgeolekufirma Bitdefenderi esindaja Martin Zugec väljendas skeptitsismi, märkides, et raportis tehakse julgeid väiteid ilma usaldusväärset küberjulgeoleku teavet esitamata. Ta rõhutas vajadust saada rohkem üksikasju, et hinnata AI-põhiste rünnakute riske adekvaatselt. See juhtum on üks silmapaistvamaid väiteid AI-tööriistade kasutamisest automatiseeritud häkkimiseks, rõhutades kasvavat muret. Teised AI arendajad on samuti teatanud riiklikult seotud tegutsejatest, kes kasutavad nende platvorme; näiteks teatasid OpenAI ja Microsoft veebruaris 2024, et nad on häirinud viit riiklikku rühmitust, sealhulgas Hiinast, peamiselt kasutades AI-d teabeotsingutel, tõlkimisel, kodeerimisviga parandus ja lihtsate programmide kirjutamiseks. Anthropic ei ole avalikustanud, kuidas nad seostasid häkkerid Hiina valitsusega ning Hiina saatkond USA-s lükkas need süüdistused ümber. Küberjulgeoleku sektor on saanud kriitikat selle eest, et AI praegust võimekust automatiseeritud rünnakute võimaluste osas üle hinnatakse, kuna tehnoloogia on endiselt keeruline. 2023. aasta novembris avaldatud Google’i uurimustöös märgiti muret selle kohta, et AI-d võidakse kasutada uue pahavara loomisel, kuid järeldati, et selline kasutus on eksperimentaalne ja veel väga tõhus mitte. Küberjulgeoleku ja AI tööstused rõhutavad sageli häkkerite AI kasutamist oma toodete ja teenuste edendamiseks. Anthropic’i blogis rõhutati, et AI-põhiste ohtude vastu võitlemine nõuab AI-põhiseid kaitsjaid ning väideti, et Claude’i võimekused on küberkaitses hädavajalikud. Samuti tunnustas ettevõte, et Claude tegi rünnakute ajal vigu, näiteks valetas sisselogimisandmeid ning pidas avalikult kättesaadavat teavet salajaseks, rõhutades, et täielikult autonoomsete küberrünnakute elluviimine on endiselt raske.