Μια σοβαρή ευπάθεια ασφαλείας έχει αποκαλυφθεί στο πλαίσιο του μεγάλου γλωσσικού μοντέλου (LLM) Llama της Meta, ενδεχομένως επιτρέποντας στους επιτιθέμενους να εκτελούν αυθαίρετο κώδικα στον διακομιστή ανίχνευσης llama-stack. Γνωστή ως CVE-2024-50050, η αδυναμία έχει βαθμό CVSS 6. 3 από τη Meta, ενώ η εταιρεία ασφάλειας αλυσίδας εφοδιασμού Snyk την αξιολογεί ως κρίσιμη με βαθμό 9. 3. Σύμφωνα με τον Avi Lumelsky, ερευνητή της Oligo Security, οι επηρεαζόμενες εκδόσεις του Llama της Meta είναι ευάλωτες στη διαδικασία αποδέσμευσης μη αξιόπιστων δεδομένων, επιτρέποντας στους επιτιθέμενους να στείλουν βλαβερά δεδομένα που μπορούν να αποδεσμευτούν για να εκτελούνται αυθαίρετος κώδικας. Αυτή η ευπάθεια σχετίζεται με την εκτέλεση απομακρυσμένου κώδικα στην Python Inference API, η οποία αποδεσμεύει αυτόματα αντικείμενα Python χρησιμοποιώντας τη βιβλιοθήκη pickle—η οποία θεωρείται ριψοκίνδυνη για την εκτέλεση αυθαίρετου κώδικα κατά την επεξεργασία μη αξιόπιστων δεδομένων. Οι επιτιθέμενοι μπορούν να εκμεταλλευτούν αυτή την αδυναμία αν η υποδοχή ZeroMQ, που χρησιμοποιείται για την ανάπτυξη εφαρμογών AI με τα μοντέλα Llama της Meta, είναι εκτεθειμένη στο δίκτυο. Με τη μετάδοση κακώς διαμορφωμένων κακόβουλων αντικειμένων, ένας επιτιθέμενος θα μπορούσε να επιτύχει εκτέλεση κώδικα στη μηχανή φιλοξενίας μέσω της λειτουργίας unpickle. Μετά από υπεύθυνη αποκάλυψη στις 24 Σεπτεμβρίου 2024, η Meta διόρθωσε το ζήτημα στις 10 Οκτωβρίου, ενημερώνοντας στην έκδοση 0. 0. 41 και αλλάζοντας από pickle σε JSON για τις επικοινωνίες μέσω υποδοχής.

Αυτή δεν είναι η πρώτη ευπάθεια αποδέσμευσης που σημειώνεται σε πλαίσια τεχνητής νοημοσύνης· για παράδειγμα, παρόμοιο πρόβλημα βρέθηκε στο πλαίσιο Keras του TensorFlow. Η ανακοίνωση αυτής της ευπάθειας συμπίπτει με μια αναφορά για μια άλλη αδυναμία στον ανιχνευτή ChatGPT της OpenAI, η οποία θα μπορούσε να διευκολύνει επιθέσεις διανομής άρνησης υπηρεσίας (DDoS) λόγω κακής διαχείρισης των αιτήσεων HTTP POST. Αυτή η παράλειψη επιτρέπει στους επιτιθέμενους να στέλνουν πολλούς υπερσυνδέσμους μέσα σε ένα μόνο αίτημα, κατακ inundating τον στόχο με πολλές συνδέσεις. Επιπλέον, μια αναφορά από την Truffle Security τόνισε ότι ορισμένοι βοηθοί κωδικοποίησης AI θα μπορούσαν τυχαία να προτείνουν ανασφαλείς πρακτικές, όπως η σκληρή κωδικοποίηση κωδικών API, θέτοντας σε κίνδυνο την ασφάλεια στα έργα των χρηστών. Ο Joe Leon, ερευνητής ασφαλείας, σημείωσε ότι τα δεδομένα εκπαίδευσης για τα LLM περιλάμβαναν πολλές ανασφαλείς πρακτικές κωδικοποίησης, διαιωνίζοντας τις ευπάθειες. Επιπλέον, έρευνες υποδεικνύουν ότι τα LLM θα μπορούσαν να κακοποιηθούν σε διάφορα στάδια κυβερνοεπιθέσεων, καθιστώντας τις απειλές πιο αποτελεσματικές και ακριβείς. Η έρευνα στις τεχνικές ταυτοποίησης μοντέλων AI, όπως το ShadowGenes, αποκαλύπτει νέους τρόπους παρακολούθησης της γενεαλογίας των μοντέλων μέσω ανάλυσης υπολογιστικών γραφημάτων. Η HiddenLayer τόνισε ότι η κατανόηση των οικογενειών μοντέλων AI σε έναν οργανισμό ενισχύει τις δυνατότητες διαχείρισης ασφάλειας.