Οι εταιρείες μπορεί να έχουν οργανωμένες ομάδες κυβερνοασφάλειας, ωστόσο πολλές παραμένουν ανεπαρκώς προετοιμασμένες για το πώς αποτυγχάνουν στην πραγματικότητα τα συστήματα ΤΝ, σύμφωνα με ερευνητή ασφαλείας τεχνητής νοημοσύνης. Ο Sander Schulhoff, συγγραφέας ενός από τα πρώτα οδηγούς για το engineering prompts και ειδικός στις ευπάθειες συστημάτων ΤΝ, δήλωσε σε ένα πρόσφατο επεισόδιο του "Lenny's Podcast" που κυκλοφόρησε την Κυριακή ότι πολλοί οργανισμοί στερούνται του εξειδικευμένου προσωπικού που χρειάζεται για να κατανοήσει και να αντιμετωπίσει τους κινδύνους ασφάλειας της ΤΝ. Οι παραδοσιακές ομάδες κυβερνοασφάλειας είναι εκπαιδευμένες να διορθώνουν σφάλματα και να διαχειρίζονται γνωστές ευπάθειες, αλλά η ΤΝ συμπεριφέρεται διαφορετικά. "Μπορείς να διορθώσεις ένα σφάλμα, αλλά δεν μπορείς να διορθώσεις έναν εγκέφαλο, " εξήγησε ο Schulhoff, τονίζοντας αυτό που θεωρεί θεμελιώδη διακοπή ανάμεσα στον τρόπο που προσεγγίζουν τα προβλήματα οι ομάδες ασφαλείας και τον τρόπο που αποτυγχάνουν τα μεγάλα μοντέλα γλώσσας. "Υπάρχει μια απόσταση ανάμεσα στο πώς λειτουργεί η ΤΝ και στην κλασική κυβερνοασφάλεια, " πρόσθεσε. Αυτή η διαφορά γίνεται εμφανής στην πρακτική εφαρμογή. Οι ειδικοί κυβερνοασφάλειας μπορεί να εξετάζουν ένα σύστημα ΤΝ για τεχνικά ζητήματα χωρίς να λαμβάνουν υπόψη: "Τι θα συνέβαινε αν κάποιος χειραγωγούσε την ΤΝ ώστε να εκτελεί κάτι ακατάλληλο;" σημείωσε ο Schulhoff, ο οποίος διαχειρίζεται μια πλατφόρμα engineering prompts και ένα hackathon red-teaming για ΤΝ. Σε αντίθεση με το παραδοσιακό λογισμικό, τα συστήματα ΤΝ μπορούν να επηρεαστούν μέσω γλώσσας και λεπτών οδηγιών, τόνισε. Ο Schulhoff ανέφερε ότι άτομα με εμπειρία στην ασφάλεια ΤΝ και στην κλασική κυβερνοασφάλεια θα ήξεραν πώς να απαντήσουν αν ένα μοντέλο ΤΝ παραπλανούνταν ώστε να παράγει κακόβουλο κώδικα — για παράδειγμα, τρέχοντάς τον σε ένα απομονωμένο κοντέινερ, ώστε να εμποδίσουν την έξοδο της ΤΝ να βλάψει το ευρύτερο σύστημα. Πιστεύει ότι ο συνδυασμός της ασφάλειας ΤΝ και της παραδοσιακής κυβερνοασφάλειας αντιπροσωπεύει "τις μελλοντικές θέσεις εργασίας στον χώρο της ασφάλειας. " Η εμφάνιση startups στον τομέα της ασφάλειας ΤΝ Ο Schulhoff επέκρινε επίσης πολλές startups στον τομέα της ασφάλειας ΤΝ επειδή προωθούν «φράγματα ασφαλείας» που αποτυγχάνουν να προσφέρουν πραγματική προστασία.

Επειδή τα συστήματα ΤΝ μπορούν να χειραγωγηθούν μέσω άπειρων τακτικών, οι ισχυρισμοί ότι αυτά τα εργαλεία μπορούν να "πιάσουν τα πάντα" είναι παραπλανητικοί. "Είναι απολύτως ψευδές, " είπε, προβλέποντας μια διόρθωση στην αγορά όπου "τα έσοδα θα συρρικνωθούν δραστικά για αυτά τα φράγματα και τις αυτοματοποιημένες εταιρείες red-teaming. " Οι startups ασφάλειας ΤΝ έχουν επωφεληθεί από την ισχυρή ενδιαφέρον επενδυτών. Τόσο οι μεγάλες τεχνολογικές εταιρείες όσο και οι εταιρείες επιχειρηματικών κεφαλαίων έχουν επενδύσει βαριά σε αυτόν τον τομέα, καθώς οι εταιρείες αγωνίζονται να ασφαλίσουν τα συστήματά τους. Τον Μάρτιο, η Google εξαγόρασε τη cybersecurity startup Wiz έναντι 32 δισεκατομμυρίων δολαρίων για να ενισχύσει τις υπηρεσίες cloud ασφαλείας της. Ο Διευθύνων Σύμβουλος της Google, Sundar Pichai, αναγνώρισε ότι η ΤΝ εισάγει "νέους κινδύνους" σε μια εποχή όπου τα πολλαπλά σύννεφα και περιβάλλοντα υβριδικής φιλοξενίας γίνονται πιο διαδεδομένα. «Σε αυτό το πλαίσιο, οι οργανισμοί αναζητούν λύσεις κυβερνοασφάλειας που βελτιώνουν την ασφάλεια στο cloud σε πολλαπλά σύννεφα, » πρόσθεσε.