Meta'n Llama-laajojen kielimallien (LLM) kehys on paljastanut vakavan tietoturva-aukon, joka mahdollistaa hyökkääjien suorittaa mielivaltaista koodia llama-stack-inferenssipalvelimella. Tunnistetun aukon nimi on CVE-2024-50050, ja sen CVSS-pisteytys Meta:lta on 6. 3, kun taas toimitusketjun tietoturvayritys Snyk arvioi sen kriittiseksi pistemäärällä 9. 3. Oligo Securityn tutkija Avi Lumelsky kertoo, että vaikuttavat Meta'n Llama -versiot ovat alttiita luottamattoman datan deserialisoimiselle, mikä mahdollistaa hyökkääjien lähettää haitallista dataa, joka voidaan deserialisoida mielivaltaisen koodin suorittamiseksi. Tämä haavoittuvuus liittyy etäkäyttökoodin suorittamiseen Pythonin Inferenssi-API:ssa, joka automaattisesti deserialisoi Python-oliot pickle-kirjaston avulla—joka on riski mielivaltaisen koodin suorittamiselle, kun käsitellään luottamattomia tietoja. Hyökkääjät voivat hyödyntää tätä heikkoutta, jos ZeroMQ-soketti, jota käytetään tekoälysovellusten kehittämiseen Meta'n Llama-malleilla, on altis verkossa. Luomalla huolellisesti muotoiltuja haitallisia objekteja hyökkääjä voisi saavuttaa koodin suorittamisen isäntäkoneella unpickle-toiminnon kautta. Vastuullisen tiedonannon jälkeen 24. syyskuuta 2024, Meta korjasi ongelman 10.

lokakuuta päivittämällä version 0. 0. 41 ja siirtymällä pickle:stä JSON:iin sokettiyhteyksissä. Tämä ei ole ensimmäinen deserialisoimisongelma, joka on havaittu tekoälykehyksissä; esimerkkinä, samanlainen ongelma löytyi TensorFlow’n Keras-kehyksestä. Tämän haavoittuvuuden ilmoitus tapahtui samanaikaisesti raportin kanssa OpenAI:n ChatGPT-luolamieheen liittyvästä ongelmasta, joka voisi mahdollistaa hajautetut palvelunestohyökkäykset (DDoS) huonon HTTP POST -pyyntöjen käsittelyn vuoksi. Tämä laiminlyönti mahdollistaa hyökkääjien lähettää lukuisia hyperlinkkejä yhdessä pyynnössä, mikä ylikuormittaa kohdesivustoa monilla yhteyksillä. Lisäksi Truffle Securityn raportti korosti, että jotkin tekoälyn koodausassistentit saattavat tahattomasti ehdottaa turvattomia käytäntöjä, kuten API-avainten kovakoodamista, mikä uhkaa turvallisuutta käyttäjien projekteissa. Tietoturvatutkija Joe Leon huomautti, että LLM:ien koulutustiedot sisälsivät monia turvattomia koodauskäytäntöjä, mikä ylläpitää haavoittuvuuksia. Lisäksi tutkimukset osoittavat, että LLM:ia voitaisiin käyttää väärin eri vaiheissa kyberhyökkäyksissä, mikä tekee uhista tehokkaampia ja tarkempia. Tutkimukset tekoälymallien tunnistustekniikoista, kuten ShadowGenes, paljastavat uusia keinoja mallin suvun seuraamiseen laskennallisen graafian analyysin avulla. HiddenLayer painotti, että tekoälymalliperheiden ymmärtäminen organisaatiossa parantaa tietoturvajohtamiskykyjä.