En alvorlig sikkerhets sårbarhet har blitt avdekket i Metas Llama store språkmodell (LLM) rammeverk, som potensielt kan gjøre det mulig for angripere å utføre vilkårlig kode på llama-stack inferensserveren. Kjent som CVE-2024-50050, har feilen en CVSS-poengsum på 6. 3 fra Meta, mens leverandørkjede-sikkerhetsfirmaet Snyk vurderer den som kritisk med en poengsum på 9. 3. Ifølge Avi Lumelsky, en forsker fra Oligo Security, er berørte versjoner av Metas Llama sårbare for deserialisering av ubetrodd data, noe som gjør det mulig for angripere å sende skadelig data som kan deserialiseres for å utføre vilkårlig kode. Denne sårbarheten er relatert til ekstern kodeutførelse i Python Inference API, som automatisk deserialiserer Python-objekter ved hjelp av pickle-biblioteket - som anses risikabelt for vilkårlig kodeutførelse ved behandling av ubetrodd data. Angripere kan utnytte denne feilen hvis ZeroMQ-socketen, som brukes til AI-app utvikling med Metas Llama-modeller, er eksponert over nettverket. Ved å sende konstruerte ondsinnede objekter, kan en angriper oppnå kodeutførelse på vertsdatamaskinen gjennom unpickle-operasjonen. Etter ansvarlig offentliggjøring den 24. september 2024, fikset Meta problemet den 10.

oktober ved å oppdatere til versjon 0. 0. 41 og bytte fra pickle til JSON for sokkelkommunikasjon. Dette er ikke den første deserialiserings sårbarheten som er notert i AI-rammeverk; for eksempel ble et lignende problem funnet i TensorFlows Keras-rammeverk. Kunngjøringen av denne sårbarheten sammenfalt med en rapport om en annen feil i OpenAIs ChatGPT-crawler, som kunne legge til rette for distribuerte tjenestenektangrep (DDoS) på grunn av dårlig håndtering av HTTP POST-forespørselene. Denne feilen lar angripere sende mange hyperlenker innenfor en enkelt forespørsel, og overvelde målstedet med flere tilkoblinger. I tillegg fremhevet en rapport fra Truffle Security at noen AI-kodingsassistenter ved et uhell kan foreslå usikre praksiser, som hardkodede API-nøkler, og dermed risikere sikkerheten i brukernes prosjekter. Joe Leon, en sikkerhetsforsker, bemerket at treningsdataene for LLM-er inkluderte mange usikre kodepraksiser, som videreførte sårbarheter. Videre indikerer forskning at LLM-er kan misbrukes i forskjellige faser av cyberangrep, noe som gjør trusler mer effektive og presise. Forskning på teknikker for identifisering av AI-modeller, som ShadowGenes, avdekker nye måter å spore modell genealogien gjennom beregningsgrafanalyse. HiddenLayer understreket at forståelsen av AI-modellfamilier i en organisasjon forbedrer sikkerhetslederkapasitetene.