Microsoft har afsløret detaljer om en teknik kaldet Skeleton Key, der tillader angribere at omgå sikkerhedsforanstaltningerne implementeret af AI-modelproducenter for at forhindre chatbots i at generere skadeligt indhold. Det blev bevist, at Skeleton Key kan overtale AI-modeller til at forklare, hvordan man laver en Molotov-cocktail. Mens AI-selskaber arbejder på at undertrykke skadeligt indhold, er risiciene ved at træne store sprogmodeller på forskellige data, herunder potentielt ulovligt indhold, ikke fuldt ud adresseret. Denne sårbarhed blev demonstreret af Skeleton Key-angrebet, der tillader brugere at få AI-modeller til at producere forbudt adfærd ved at revidere sikkerhedsinstruktioner.

Microsoft prøvede angrebet på forskellige modeller, og selvom de fleste reagerede på advarslerne, blev nogle modeller stadig påvirket. Adversarielle angreb som Greedy Coordinate Gradient eller BEAST kan yderligere narre modeller og omgå eksisterende forsvarsteknikker. Fremadrettet bør der lægges vægt på at håndtere disse avancerede angreb.