Kompanije mogu imati timove za sajber bezbjednost na mjestu, ali mnoge i dalje nisu spremne za načine na koje AI sistemi zapravo ne uspijevaju, prema istraživaču sigurnosti AI sistema. Sander Schulhoff, autor jednog od prvih vodiča za inženjerstvo promptova i stručnjak za ranjivosti AI sistema, izjavio je u nedavnom izdanju "Lenny's Podcast" objavljenom u nedjelju da mnoge organizacije nemaju stručnog osoblja potrebno za razumijevanje i ublažavanje sigurnosnih rizika AI-ja. Tradicionalni timovi za sajber bezbjednost obučeni su da poprave bagove i rješavaju poznate ranjivosti, ali AI se ponaša drugačije. "Možeš zakrpiti bag, ali ne možeš zakrpiti mozak, " objasnio je Schulhoff, ističući šta vidi kao fundamentalni raskorak između načina na koji sigurnosni timovi pristupaju problemima i načina na koji veliki jezički modeli ne uspijevaju. "Postoji raskorak između načina na koji AI funkcioniše i klasične sajber bezbjednosti, " dodao je. Ovaj jaz postaje vidljiv u praktičnim primjenama. Stručnjaci za sajber bezbjednost mogli bi da ispituju AI sistem na tehničke probleme, a da ne razmišljaju: "Šta ako neko manipuliše AI-jem da obavi nešto neprimjereno?" primijetio je Schulhoff, koji upravlja platformom za inženjerstvo promptova i hakatonom za red-team AI. Za razliku od konvencionalnog softvera, AI sistemi se mogu uticati putem jezika i suptilnih instrukcija, istakao je. Schulhoff je naveo da bi osobama koje su iskusan u obje oblasti, AI sigurnosti i tradicionalnoj sajber bezbjednosti, bilo jasno kako reagovati ako je AI model prevaren da proizvede zlonamjerni kod—na primjer, pokretanjem koda u izolovanom kontejneru kako bi se spriječilo da output AI-ja naškodi širijem sistemu. Vjeruje da se spoj AI sigurnosti i konvencionalne sajbjør bezbjednosti predstavlja "poslova budućnosti u sigurnosti. " Pojava startupa za AI sigurnost Schulhoff je takođe kritikovao mnoge startupove za AI sigurnost zbog promoviranja ograničenja koja ne pružaju istinsku zaštitu.

Kako AI sistemi mogu biti manipulisani putem beskonačnih taktika, tvrdnje da te alate mogu "uhvatiti sve" su obmanjujuće. "To je potpuno netačno, " rekao je, predviđajući korekciju na tržištu gdje će "prihodi drastično opasti za ove limite i kompanije za automatsko red-teamiranje. " Startupi za AI sigurnost imali su koristi od jakog interesa investitora. I Velike tehnologije i venture kapital firme snažno su ulagale u ovaj sektor dok se kompanije utrkuju da osiguraju svoje AI sisteme. U martu, Google je kupio sajber bezbjednosni startup Wiz za 32 milijarde dolara kako bi ojačao svoje usluge sigurnosti u oblaku. Ceo Google Sundar Pichai priznao je da AI uvodi "nove rizike" u vrijeme kada se više koristi multi-cloud i hibridni okruženja. „U ovom kontekstu, organizacije traže rješenja za sajber bezbjednost koja poboljšavaju sigurnost u oblaku na više oblaka, “ dodao je.