Microsoft a révélé des détails sur une technique appelée Skeleton Key, qui permet aux attaquants de contourner les mesures de sécurité mises en place par les créateurs de modèles d'IA pour empêcher les chatbots de générer du contenu nuisible. Skeleton Key a été capable de pousser les modèles d'IA à expliquer comment fabriquer un cocktail Molotov. Bien que les sociétés d'IA travaillent pour supprimer le contenu nuisible, les risques liés à la formation de grands modèles de langage sur diverses données, y compris du contenu potentiellement illégal, n'ont pas été pleinement pris en compte. Cette vulnérabilité a été démontrée par l'attaque Skeleton Key, qui permet aux utilisateurs de provoquer des comportements interdits des modèles d'IA en révisant les consignes de sécurité.

Microsoft a essayé l'attaque sur différents modèles, et bien que la plupart aient tenu compte des avertissements, certains modèles ont tout de même été affectés. Des attaques adverses telles que Greedy Coordinate Gradient ou BEAST peuvent tromper davantage les modèles et contourner les techniques de défense existantes. À l'avenir, il faudra mettre l'accent sur la prise en compte de ces attaques avancées.