Сериозна уязвимост в сигурността беше разкрита в рамката на голям езиков модел (LLM) на Meta, известна като Llama, която потенциално позволява на нападателите да изпълняват произволен код на сървъра за извод llama-stack. Уязвимостта е обозначена като CVE-2024-50050 и има оценка по CVSS от 6. 3 от Meta, докато фирмата за сигурност на веригата за доставки Snyk я оценява като критична с оценка 9. 3. Според Ави Лумелски, изследовател от Oligo Security, засегнатите версии на Llama на Meta са податливи на десериализация на ненадеждни данни, което позволява на нападателите да изпращат вредни данни, които могат да бъдат десериализирани за изпълнение на произволен код. Тази уязвимост е свързана с отдалечено изпълнение на код в Python Inference API, който автоматично десериализира Python обекти с помощта на библиотеката pickle – считана за рискова при изпълнение на произволен код, когато обработва ненадеждни данни. Нападателите могат да експлоатират този недостатък, ако сокетът ZeroMQ, използван за разработка на AI приложения с моделите на Llama на Meta, е изложен в мрежата. Чрез предаване на съобразени злонамерени обекти, нападател може да осъществи изпълнение на код на хост машината чрез операцията unpickle. След отговорно оповестяване на 24 септември 2024 г. , Meta поправи проблема на 10 октомври, актуализирайки до версия 0. 0. 41 и превключвайки от pickle на JSON за комуникация по сокетите.

Това не е първата уязвимост при десериализация, забелязана в AI рамките; например, подобен проблем беше открит в Keras рамката на TensorFlow. Обявлението за тази уязвимост съвпадна с доклад за друг недостатък в уеб краулера на ChatGPT на OpenAI, който може да улесни разпределени атаки за отказ на услуга (DDoS) поради лошото обработване на HTTP POST заявки. Тази пропускливост позволява на нападателите да изпращат множество хипервръзки в една заявка, затрупвайки целевия сайт с множество връзки. Допълнително, доклад от Truffle Security подчерта, че някои AI кодови асистенти могат неволно да предлагат несигурни практики, като например хардкодирането на API ключове, рискувайки сигурността на проектите на потребителите. Джо Леон, изследовател в областта на сигурността, отбеляза, че тренировъчните данни за LLMs съдържат многобройни несигурни кодови практики, което продължава уязвимостите. Освен това, изследвания сочат, че LLMs могат да бъдат използвани неправилно в различни етапи на кибератаки, което прави заплахите по-ефективни и прецизни. Изследванията върху техники за идентификация на AI модели, като ShadowGenes, разкриват нови средства за проследяване на генеалогията на модели чрез анализ на изчислителни графи. HiddenLayer подчерта, че разбирането на семейства от AI модели в организация подобрява възможностите за управление на сигурността.