Anthropic, AI pokalbio Claude kūrėjai, teigia, kad savo įrankiu identifikavo Kinijos vyriausybės remiamus įsilaužėjus, kurie naudodami jų įrankį atliko automatinius kibernetinius išpuolius maždaug 30 pasaulio organizacijų. Pasak Anthropic, šie įsilaužėliai apgavo Claude, kad jis atliktų automatizuotas užduotis, dažnai apgaulingai vadintas kibernetinio saugumo tyrimais, sudarydami tai, ką įmonė apibūdino kaip “pirmąją praneštą AI sąlygotos kibernetinės žvalgybos kampaniją”. Tačiau dalis skeptikų abejoja tiek šios informacijos tikrumu, tiek motyvais už šio pareiškimo. Anthropic aptiko šiuos įsilaužimo bandymus rugsėjo viduryje, kai įsilaužėliai prisistatė teisėtais kibernetinio saugumo darbuotojais ir pateikė Claude mažas automatines užduotis. Sujungus šias užduotis, susidarydavo “labai sudėtinga žvalgybos kampanija”. Tyrėjai išreiškė “didelį pasitikėjimą”, kad nusikaltėliai yra valstybinė Kinijos grupė, nors įmonė nepateikė detalesnių duomenų. Tarp taikinių buvo minimos didelės technologijų įmonės, finansų institucijos, chemijos gamintojai ir vyriausybinės agentūros. Įsilaužėliai kūrė programą su Claude programavimo pagalba, siekdami savarankiškai kompromituoti pasirinktus taikinius su minimalia žmogaus įsikišimu. Teigiama, kad pokalbių robotas pavyko įsilieti į įvairias nežinomų organizacijų saugumo sistemas, išgaudamas ir analizuodamas jautrius duomenis vertingiems įžvalgoms. Vėliau Anthropic uždraudė įsilaužėliams naudoti Claude ir informavo paveiktas įmones bei teisėsaugos institucijas. Tačiau Martin Zugec iš kibernetinio saugumo įmonės Bitdefender išreiškė skeptiškumą, pažymėdamas, kad šis pranešimas teigia drąsius teiginius, nepateikiant patikimos grėsmės žvalgybos informacijos.

Jis pabrėžė, kad reikalinga išsamesnė informacija, kad būtų galima tinkamai įvertinti AI pagrįstų atakų riziką. Šis įvykis yra vienas iš ryškiausių atvejų, kai teigiama, kad AI įrankiai buvo panaudoti automatiniams įsilaužimams, atkreipiant dėmesį į augančią problemą. Kiti AI kūrėjai taip pat praneša apie valstybėms priklausančius veikėjus, naudojančius jų platformas; pavyzdžiui, 2024 m. vasarį OpenAI ir Microsoft pranešė apie penkių valstybinių grupių sutrikdymą, įskaitant Kiniją, kurie daugiausia bandė naudoti AI informacijos paieškai, vertimui, kodo derinimui ir paprastoms programavimo užduotims. Anthropic neskelbė, kaip jie susiejo įsilaužėlius su Kinijos vyriausybe, o Kinijos ambasada Jungtinėse Valstijose neigė bet kokį jų ryšį. Kibernetinio saugumo sektorius sulaukė kritikos dėl galimo savo galimybių perdėjimo, kadangi technologija vis dar yra gana nepatogi naudoti. Lapkričio 2023 m. Google atliktas tyrimas pažymėjo susirūpinimą, kad AI gali būti naudojamas naujai kenkėjiškai programinei įrangai kurti, tačiau padarė išvadą, kad tokie bandymai buvo eksperimentiniai ir dar ne labai efektyvūs. Kibernetinio saugumo ir AI industrijos dažnai akcentuoja, kaip įsilaužėliai naudoja AI, kad skatintų savo produktus ir paslaugas. Anthropic tinklaraštyje pabrėžė, kad kovojant su AI pagrįstomis grėsmėmis būtini AI gynėjai, teigdami, jog Claude galimybės yra esminės kibernetinio saugumo srityje. Įmonė taip pat pripažino, kad Claude per atakas suklydo, pavyzdžiui, išgalvojo prisijungimo duomenis ir klaidingai įvardijo viešai prieinamą informaciją kaip slaptą, pabrėždama, kad visiškai autonomiškos kibernetinės atakos vis dar yra sudėtingai įgyvendinamos.