Anthropic, proizvajalec klepetalnika AI Claude, trdi, da so identificirali hekerje, podprte z vlado Kitajske, ki so z njihovim orodjem izvajali avtomatizirane kibernetske napade na približno 30 svetovnih organizacij. Po mnenju Anthropic so ti hekerji prepričali Claude, da je izvajal avtomatizirane naloge, prikazane kot raziskave kibernetske varnosti, s čimer so ustvarili, kot je podjetje opisalo, "prvo poročano kampanjo kibernetskega vohunjenja, ki jo je usmerjala umetna inteligenca. " Vendar nekateri skeptiki dvomijo tako v veljavnost kot motivacijo za to trditev. Anthropic je odkril poskuse hekerskih napadov sredi septembra, ko so napadalci zavajali kot legitimni strokovnjaki za kibernetsko varnost, da bi dodelili Claude majhne avtomatizirane naloge. Združene, so te naloge predstavljale “izjemno sofisticirano kampanjo vohunjenja. ” Raziskovalci so izrazili “visoko zaupanje, ” da so storilci država podprta kitajska skupina, čeprav podjetje ni podalo dodatnih podrobnosti. Cilji so najverjetneje vključujejo velike tehnološke firme, finančne institucije, kemične proizvajalce in vladne agencije. Hekerji so razvili program z pomočjo kodiranja Claudea, ki je samostojno prodiral v izbrane tarče z minimalnim človeškim sodelovanjem. Najavljajo, da je klepetalnik uspel vdrti v več neimenovanih organizacij, pridobivati in analizirati občutljive podatke za dragocene vpoglede. Od takrat je Anthropic hekerje izključil iz uporabe Claudea ter obvestil prizadete družbe in organe pregona. Vendar je Martin Zugec iz varnostno-kibernetske družbe Bitdefender izrazili skepticizem, saj poročilo podaja drzne trditve brez ponujanja preverljivih informacij o grožnjah.

Poudaril je, da je potrebno več podrobnosti, da bi ustrezno ocenili tveganja napadov, ki jih poganja umetna inteligenca. Ta primer je med najbolj opaznimi trditvami, da so orodja umetne inteligence izkoriščena za avtomatizirane vdore, in poudarja naraščajočo zaskrbljenost. Drugi razvijalci umetne inteligence so prav tako poročali o državnih akterjih, ki uporabljajo njihove platforme; na primer je februarja 2024 OpenAI in Microsoft razkril prekinitve delovanja petih skupin, povezanih z državami, vključno s Kitajsko, ki so predvsem poskušale uporabiti AI za iskanje informacij, prevajanje, odpravljanje napak v kodi in enostavne programske naloge. Anthropic ni razkril, kako je povezal hekerje z kitajsko vlado, kitajsko veleposlaništvo v Združenih državah pa je zanikalo kakršno koli vpletenost. Sektor kibernetske varnosti je bil deležen kritik zaradi možnega pretiravanja glede trenutnih zmožnosti umetne inteligence pri omogočanju avtomatiziranih napadov, saj tehnologija še vedno ni povsem lahka za uporabo. Google je v raziskovalni študiji iz novembra 2023 opozoril na skrbi, da bi AI lahko bila uporabljena za ustvarjanje novega zlonamernega programske opreme, vendar je zaključil, da je takšna uporaba še vedno eksperimentalna in ne zelo učinkovita. Industrije kibernetske varnosti in umetne inteligence pogosto poudarjajo, da hekerji uporabljajo umetno inteligenco za promocijo svojih izdelkov in storitev. V svojem blogu je Anthropic poudaril, da je boj proti grožnjam, ki jih poganja umetna inteligenca, potreben AI-based odkrivalce, trdijoč, da so zmožnosti Claudea ključne za kibernetsko obrambo. Podjetje je tudi priznalo, da je Claude med napadi delal napake, na primer je izdajal poverilnice za prijavo in napačno identificiral javno dostopne informacije kot skrivne, kar poudarja, da so popolnoma avtonomni kibernetski napadi še vedno težko dosegljivi.