Companiile pot avea echipe de securitate cibernetică deja înființate, însă multe rămân nepregătite pentru modul în care sistemele AI eșuează în mod real, potrivit unui cercetător în securitatea AI. Sander Schulhoff, autorul unuia dintre primele ghiduri de prompt engineering și expert în vulnerabilitățile sistemelor AI, a declarat într-un episod recent al „Lenny’s Podcast”, difuzat duminică, că numeroase organizații nu dispun de personal calificat pentru a înțelege și a gestiona riscurile de securitate ale AI. Echipele tradiționale de securitate cibernetică sunt instruite să corecteze bug-uri și să gestioneze vulnerabilități cunoscute, însă AI se comportă diferit. „Poți remedia o problemă, dar nu poți repara un creier, ” a explicat Schulhoff, subliniind ceea ce vede ca fiind o dezaliniere fundamentală între modul în care echipele de securitate abordeză problemele și modul în care se comportă modelele de limbaj mari. „Există o deconectare între modul în care funcționează AI-ul și securitatea cibernetică clasică, ” a adăugat el. Această diferență devine vizibilă în implementările practice. Experții în securitate cibernetică pot examina un sistem AI pentru probleme tehnice fără să ia în considerare: „Mais ce se întâmplă dacă cineva manipulează AI-ul ca să facă ceva nepotrivit?” Schulhoff, care administrează o platformă de prompt engineering și un hackathon de red-teaming AI, a observat. Spre deosebire de software-ul convențional, sistemele AI pot fi influențate prin limbaj și instrucțiuni subtile, a subliniat el. Schulhoff a menționat că persoanele experimentate atât în securitatea AI, cât și în securitatea cibernetică tradițională, știu cum să răspundă dacă un model AI este păcălit pentru a produce cod malițios — de exemplu, rulând codul într-un container izolat pentru a preveni ca rezultatul AI să dăuneze sistemului mai larg. El consideră că convergența dintre securitatea AI și cea convențională reprezintă „locurile de muncă ale securității viitorului. ” Emergența startup-urilor de securitate AI Schulhoff a criticat, de asemenea, multe startup-uri de securitate AI pentru promovarea unor bariere de protecție care nu oferă o protecție reală.

Deoarece sistemele AI pot fi manipulate prin tactici fără sfârșit, afirmațiile că aceste instrumente pot „prinde tot” sunt înșelătoare. „Este complet fals, ” a spus el, prevăzând o corecție pe piață unde „veniturile acestor bariere de protecție și companiile de red-teaming automatizat se vor reduce drastic. ” Startup-urile de securitate AI au beneficiat de interes puternic din partea investitorilor. Atât marii giganți tehnologici, cât și fondurile de capital de risc au investit masiv în acest sector, pe măsură ce companiile se grăbesc să își securizeze sistemele AI. În martie, Google a achiziționat startup-ul de securitate cibernetică Wiz pentru 32 de miliarde de dolari pentru a-și consolida serviciile de securitate cloud. CEO-ul Google, Sundar Pichai, a recunoscut că AI introduce „noi riscuri” într-un moment în care mediile multi-cloud și hibride devin tot mai frecvente. „În acest context, organizațiile caută soluții de securitate cibernetică care să îmbunătățească securitatea cloud-ului pe mai multe platforme, ” a adăugat el.