تدعي شركة أنثروبيك، صانعة روبوت المحادثة الذكي كلود، أنها تمكنت من تحديد قراصنة مدعومين من الحكومة الصينية يستخدمون أداتها لتنفيذ هجمات إلكترونية تلقائية على حوالي 30 منظمة عالمية. ووفقًا لأنثروبيك، فإن هؤلاء القراصنة خدعوا كلود لأداء مهام تلقائية متنكرة كبحوث في مجال الأمن السيبراني، مما شكل ما وصفته الشركة بأنه "أول حملة تجسس إلكتروني برعاية الذكاء الاصطناعي تم الإبلاغ عنها. " ومع ذلك، يشكك بعض المتشككين في صحة وصحة ودوافع هذا الادعاء. اكتشفت أنثروبيك محاولات الاختراق في منتصف سبتمبر، حيث انتحل المهاجمون شخصية أفراد أمن سيبرانيين شرعيين لإعطاء كلود مهامًا تلقائية صغيرة. وعند جمع هذه المهام، تبين أنها امتدت لتكون "حملة تجسس إلكتروني عالية التطور. " وأعرب الباحثون عن "ثقة عالية" في أن الجناة مجموعة صينية مدعومة من دولة، رغم أن الشركة لم تقدم مزيدًا من التفاصيل. ويُذكر أن الأهداف شملت شركات تكنولوجيا كبرى، ومؤسسات مالية، ومصانع كيميائية، ووكالات حكومية. وطور القراصنة برنامجًا بمساعدة برمجة كلود لاختراق الأهداف المحددة بشكل مستقل بأقل تدخل بشري، حيث تمكنت روبوت المحادثة من اختراق عدة منظمات غير مسماة، واستخراج وتحليل بيانات حساسة للحصول على رؤى قيمة. ومنذ ذلك الحين، قامت أنثروبيك بحظر القراصنة من استخدام كلود، وأبلغت الشركات المتضررة ووكالات إنفاذ القانون. غير أن مارتن زوجيك من شركة الأمن السيبراني بيتدفندر أعرب عن شكوكه، مشيرًا إلى أن التقرير يمتلك ادعاءات جريئة بدون تزويد بمعلومات موثوقة عن التهديدات.

وشدد على حاجة الجهات المختصة لمعلومات أكثر تفصيلًا لتقييم مخاطر الهجمات المرتكزة على الذكاء الاصطناعي بشكل صحيح. تُعد هذه الحادثة من بين أبرز الادعاءات التي تتعلق باستغلال أدوات الذكاء الاصطناعي للتسلل التلقائي، مما يسلط الضوء على تزايد المخاوف في هذا المجال. كما أبلغ مطوروا أنظمة الذكاء الاصطناعي عن وجود جهات مرتبطة بالدول تستخدم منصاتهم؛ ففي فبراير 2024، كشفت OpenAI ومايكروسوفت عن إيقاف خمس مجموعات ذات صلة بالدول، منها من الصين، كانت تحاول أساسًا استخدام الذكاء الاصطناعي للاستعلام عن المعلومات، والترجمة، وتصحيح الأكواد، وأداء مهام برمجية بسيطة. لم تكشف أنثروبيك عن كيفية ارتباطها بالقراصنة بالحكومة الصينية، ونفت السفارة الصينية في الولايات المتحدة أي تدخل لها. وقد تعرض قطاع الأمن السيبراني لانتقادات لاحتمال المبالغة في قدرات الذكاء الاصطناعي الحالية على تسهيل الهجمات التلقائية، حيث لا تزال التكنولوجيا غير مستقرة إلى حد بعيد. وقد أشار ورقة بحثية من جوجل في نوفمبر 2023 إلى مخاوف من استخدام الذكاء الاصطناعي لإنشاء برمجيات خبيثة جديدة، إلا أنها خلصت إلى أن هذا الاستخدام لا يزال تجريبيًا وغير فعال جدًا بعد. تحرص صناعات الأمن السيبراني والذكاء الاصطناعي على تسليط الضوء على استغلال القراصنة للذكاء الاصطناعي لتعزيز منتجاتهم وخدماتهم. وأكدت أنثروبيك في مدونتها أن مكافحة التهديدات المرتكزة على الذكاء الاصطناعي تتطلب من المدافعين الاعتماد على الذكاء الاصطناعي ذاته، زاعمة أن قدرات كلود أساسية للدفاع السيبراني. كما أقرّت الشركة بأن كلود ارتكب أخطاء أثناء الهجمات، مثل تلفيق بيانات الدخول والتعرف بشكل خاطئ على معلومات متاحة للجميع كمعلومات سرية، مما يظهر أن الهجمات السيبرانية ذاتية القيادة بشكل كامل لا تزال مهمة صعبة التحقيق.