S'ha revelat una vulnerabilitat de seguretat greu en el marc de models de llenguatge gran (LLM) de Meta, conegut com a Llama, que podria permetre als atacants executar codi arbitrari en el servidor d'inferència de llama-stack. Coneguda com a CVE-2024-50050, la falla té una puntuació CVSS de 6. 3 segons Meta, mentre que l'empresa de seguretat de la cadena de subministrament Snyk la classifica com a crítica amb una puntuació de 9. 3. Segons Avi Lumelsky, un investigador d'Oligo Security, les versions afectades de Llama de Meta són vulnerables a la deserialització de dades no fiables, permetent als atacants enviar dades perjudicials que poden ser deserialitzades per executar codi arbitrari. Aquesta vulnerabilitat està relacionada amb l'execució remota de codi en l'API d'Inferència de Python, que deserialitza automàticament objectes Python mitjançant la biblioteca pickle—considerada arriscada per a l'execució de codi arbitrari quan es processen dades no fiables. Els atacants poden explotar aquesta falla si el socket ZeroMQ, utilitzat per al desenvolupament d'aplicacions d'IA amb els models Llama de Meta, està exposat a la xarxa. Mitjançant la transmissió d'objectes maliciosos dissenyats, un atacant podria aconseguir l'execució de codi a la màquina host a través de l'operació unpickle. Després d'una divulgació responsable el 24 de setembre de 2024, Meta va corregir el problema el 10 d'octubre actualitzant a la versió 0. 0. 41 i canviant de pickle a JSON per a les comunicacions per socket.

Aquesta no és la primera vulnerabilitat de deserialització observada en marcs d'IA; per exemple, es va trobar un problema similar en el marc Keras de TensorFlow. L'anunci d'aquesta vulnerabilitat coincideix amb un informe sobre una altra falla en el rastrejador ChatGPT d'OpenAI, que podria facilitar atacs de denegació de servei distribuïts (DDoS) a causa d'una mala gestió de les sol·licituds HTTP POST. Aquesta omissió permet als atacants enviar nombrosos hiperenllaços dins d'una única sol·licitud, aclaparant el lloc objectiu amb múltiples connexions. A més, un informe de Truffle Security va destacar que alguns assistents de codificació d'IA podrien suggerir inconscientment pràctiques insegures, com ara codificar claus d'API, posant en risc la seguretat dels projectes dels usuaris. Joe Leon, un investigador de seguretat, va assenyalar que les dades d'entrenament dels LLM incorporaven moltes pràctiques de codificació insegures, perpetuant vulnerabilitats. A més, investigacions indiquen que els LLM podrien ser malversats en diverses etapes d'atacs cibernètics, fent que les amenaces siguin més efectives i precises. La recerca en tècniques d'identificació de models d'IA, com ShadowGenes, revela nous mitjans de rastreig de la genealogia dels models mitjançant l'anàlisi de grafos computacionals. HiddenLayer va subratllar que entendre les famílies de models d'IA dins d'una organització millora les capacitats de gestió de la seguretat.