En alvorlig sikkerhedssårbarhed er blevet afsløret i Metas Llama store sprogmodel (LLM) rammeværk, hvilket potentielt muliggør, at angribere kan udføre vilkårlig kode på llama-stack inferensserveren. Kendt som CVE-2024-50050 har fejlen en CVSS-score på 6, 3 fra Meta, mens supply chain sikkerhedsfirmaet Snyk vurderer den som kritisk med en score på 9, 3. Ifølge Avi Lumelsky, en forsker fra Oligo Security, er de berørte versioner af Metas Llama udsatte for deserialisering af ikke-pålidelige data, hvilket gør det muligt for angribere at sende skadelig data, der kan deserialiseres for at udføre vilkårlig kode. Denne sårbarhed relaterer sig til eksterne kodeudfordringer i Python Inference API, som automatisk deserialiserer Python-objekter ved hjælp af pickle-biblioteket—betragtet som risikabelt for vilkårlig kodeudførelse, når der behandles ikke-pålidelige data. Angribere kan udnytte denne fejl, hvis ZeroMQ-socketen, der bruges til AI-app-udvikling med Metas Llama-modeller, er eksponeret over netværket. Ved at transmittere fremstillede skadelige objekter kunne en angriber opnå kodeudførelse på værtsmaskinen gennem unpickle-operationen. Efter ansvarlig offentliggørelse den 24. september 2024, rettede Meta problemet den 10.

oktober ved at opdatere til version 0. 0. 41 og skifte fra pickle til JSON til socketkommunikation. Dette er ikke den første deserialiseringssårbarhed, der er bemærket i AI-rammeværk; for eksempel blev et lignende problem fundet i TensorFlows Keras-rammeværk. Annonceringen af denne sårbarhed faldt sammen med en rapport om en anden fejl i OpenAIs ChatGPT-crawler, som kunne lette distribuerede denial-of-service (DDoS) angreb på grund af dårlig håndtering af HTTP POST-anmodninger. Denne oversigt tillader angribere at sende adskillige hyperlinks inden for en enkelt anmodning, hvilket overbelaster det målrettede site med flere forbindelser. Derudover fremhævede en rapport fra Truffle Security, at nogle AI-kodningsassistenter utilsigtet kunne foreslå usikre praksisser, såsom at hardkode API-nøgler, hvilket risikerer sikkerheden i brugernes projekter. Joe Leon, en sikkerhedsregistrator, bemærkede, at træningsdataene for LLM'er indeholdt mange usikre kodningspraksisser, der viderefører sårbarheder. Ydermere indikerer forskning, at LLM'er kunne misbruges i forskellige faser af cyberangreb, hvilket gør trusler mere effektive og præcise. Forskning i identifikationsteknikker for AI-modeller, som ShadowGenes, afslører nye metoder til at spore modelgenealogi gennem beregningsgrafanalyse. HiddenLayer understregede, at forståelsen af AI-modelfamilier i en organisation forbedrer sikkerhedsstyringsmulighederne.