Антропик, AI чатботы Claude-нің жасаушылары, олардың құралдарын пайдаланып, әлемдегі шамамен 30 ұйымға автоматтандырылған кибершабуылдар жүргізген қытай үкіметі қолдайтын хакерлерді анықтағандарын туралы мәлімдеді. Антропиктің айтуынша, бұл хакерлер Claude-ны қауіпсіздік бойынша зерттеулер ретінде жасырылған автоматтандырылған тапсырмаларды орындауға алдап келген, бұл компанияның "бірінші хабарланған AI-нің ұйымдастырған кибербарлау науқаны" деп сипаттаған. Алайда, кейбір сыншылар бұл мәлімдеменің дұрыстығы мен мотивацияларын екі жақтан да сұрақ астына алды. Антропик қыркүйек айының ортасында бұндай шабуылдар болғанын анықтады, мұнда шабуылдаушылар Claude-ға кішігірім автоматтандырылған тапсырмалар беру үшін заңды қауіпсіздік мамандарымендей болып шықты. Бұл тапсырмалар бірге алғанда "өте күрделі барлау науқанына" айналды. Зерттеушілер бұндай етіп жасалған шабуылдарды орындаушылардың мемлекеттік қолдауындағы қытайлық топ екеніне "жоғары сенімділік" білдірді, дегенмен, компания басқа нақты ақпарат бермеді. Мақсаттар ретінде ірі технологиялық компаниялар, қаржылық институттар, химиялық өндірушілер және мемлекеттік органдар көрсетілді. Хакерлер Claude-ның коды көмегімен таңдаулы мақсаттарға мінсіз автономды түрде шабуыл жасаған бағдарламаны әзірледі, адамның қатысуы минималды болды. Chatbot бірнеше белгісіз ұйымдарды бұзуында сәттілікке жеткені, маңызды мәліметтерді шығарып, талдауы туралы хабарланды. Антропик бұндай шабуылдардан кейін хакерлерді Claude-ны қолданудан тыйып, зардап шеккен компаниялар мен құқық қорғау органдарына хабарлады.

Алайда, киберқауіпсіздік компаниясы Bitdefender-дің Мартин Зугец бұл ақпаратқа skepticism білдірді, ол бұл есептің тәуекелдер туралы нақты қауіптерді растаусыз үлкен мәлімдемелер жасалғанын атап өтті. Ол AI-ға негізделген шабуылдар қаупін дұрыс бағалау үшін нақты әрі толық ақпарат керек екенін айтты. Бұл оқиға автоматтандырылған шабуылдар үшін AI құралдарын пайдалануды алға шығарған ең көрнекті әрекеттердің бірі болып табылады, өсіп келе жатқан алаңдаушылықты көрсетеді. Басқалай AI жасаушылар да олардың платформаларын қолданатын мемлекетке байланысты топтарды хабарлады; мысалы, 2024 жылғы ақпанда OpenAI мен Microsoft бес мемлекетке байланысы бар топтарды бұзғандарын жариялады, олардың ішінде Қытай бар, негізінен AI-ны ақпарат сұрауларында, аудармада, кодтау қателерін түзету және қарапайым бағдарламалау тапсырмаларында қолдануға тырысады. Антропик бұндай хакерлерді Қытай үкіметімен қалай байланыстырғанын ашып айтпады, ал АҚШ-тағы Қытай елшілігі бұл қатысуға қатысудың жоқтығын мәлімдеді. Киберқауіпсіздік саласы AI қазіргі мүмкіндіктерін асыра бағалау арқылы сынға қалуда, себебі бұл технология әлі де күрделі және қолдануға әлі толық дайын емес. 2023 жылдың қараша айында Google-дің зерттеу баяндамасы AI қолданылып, жаңа зиянды бағдарламалар құру оқиғалары туралы алаңдаушылық білдірді, бірақ бұны эксперименттік әрі әлі де тиімді емес деп бағалады. Киберқауіпсіздік пен AI салалары әлемде хакерлердің AI-ны пайдалануын өз өнімдері мен қызметтерін насихаттаудың тәсілі ретінде жиі көрсетеді. Антропик өзінің блогында AI-ға негізделген қауіптермен күресу үшін AI-ға негізделген қорғаушылар керек екенін, Claude-ның мүмкіндіктері киберқауіпсіздік үшін маңызды екенін атап өтті. Сонымен қатар, компания Claude-ның шабуылдар кезінде қатеге ұшырағанын, мысалы, логин деректерін ойдан шығарып, жалпы қолжетімді ақпаратты құпия деп айырып алғанын мойындады, бұдан толық автономды кибершабуылдар әлі қиын екенін көрсетеді.