Microsoft, Skeleton Key adı verilen bir teknik hakkında ayrıntıları açıkladı. Bu teknik, sohbet botlarının zararlı içerik üretmesini engelleyen AI modeli yapımcılarının uyguladığı koruma önlemlerini atlamaya olanak tanır. Skeleton Key, AI modellerini Molotof kokteyli nasıl yapılacağını açıklamaya ikna edebildiği gösterildi. AI şirketleri zararlı içeriği bastırmak için çalışırken, potansiyel olarak yasa dışı içerik de dahil olmak üzere çeşitli verilerle büyük dil modellerinin eğitimiyle ilişkili riskler tam olarak çözümlenmemiştir.

Bu güvenlik açığı, güvenlik talimatları revize edilerek kullanıcıların AI modellerini yasaklanan davranışlar sergilemeye zorlamasına izin veren Skeleton Key saldırısı tarafından gösterildi. Microsoft, saldırıyı çeşitli modeller üzerinde denedi ve çoğu uyarılara uymasına rağmen bazı modeller etkilendi. Aç gözlü Koordinat Gradyan veya BEAST gibi düşmanca saldırılar, modelleri yanıltarak mevcut savunma tekniklerini atlayabilir. İleride, önemli olan bu gelişmiş saldırıların üzerine odaklanmak olmalıdır.