Podjetja imajo lahko vzpostavljene ekipe za kibernetsko varnost, vendar številna ostajajo nepismenna glede načinov, kako AI sistemi dejansko odpovejo, pravi raziskovalec varnosti AI. Sander Schulhoff, avtor ene izmed prvih priročnikov za inženiring ukazov in strokovnjak za ranljivosti AI sistemov, je v nedavno izdani epizodi "Lenny's Podcast", ki je izšla v nedeljo, dejal, da mnoge organizacije nimajo usposobljenega osebja, ki bi razumelo in ublažilo tveganja glede varnosti AI. Tradicionalne ekipe za kibernetsko varnost so usposobljene za odpravljanje napak in obvladovanje znanih ranljivosti, vendar se AI vede drugače. "Popraviš lahko napako, ampak ne moreš popraviti možganov, " je pojasnil Schulhoff in poudaril, da med pristopi varnostnih ekip in kako velike jezovne modele odpovejo, obstaja temeljna razlika. "Obstaja razlika med tem, kako deluje AI, in klasično kibernetsko varnostjo, " je dodal. Ta vrzel postane očitna pri praktičnih implementacijah. Strokovnjaki za kibernetsko varnost lahko pregledajo AI sistem zaradi tehničnih težav, ne pa tudi razmišljajo: "Kaj če nekdo manipulira z AI, da izvede nekaj nepravilnega?" je opazil Schulhoff, ki upravlja platformo za inženiring ukazov in hackathon za rdeče ekipe za testiranje AI. Za razliko od običajne programske opreme je AI sistem mogoče vplivati s pomočjo jezika in subtilnih navodil, je poudaril.

Schulhoff je opozoril, da bi posamezniki, izkušeni tako na področju varnosti AI kot tudi na področju tradicionalne kibernetske varnosti, vedeli, kako ukrepati, če bi bila AI spretno zavedena, da generira zlonamerno kodo — na primer z izvajanjem kode v izoliranem okolju, da preprečijo, da bi AI-jev izhod škodoval širšemu sistemu. Meni, da je združevanje varnosti AI z običajno kibernetsko varnostjo "prihodnostna varnostna služba. " Pojav startupov za varnost AI Schulhoff je prav tako kritiziral številne startupove za varnost AI, ki promovirajo »vodila«, ki ne nudijo resnične zaščite. Ker je manipulacija z AI sistemi mogoča z neskončnimi triki, so trditve, da ti orodji lahko "zajemajo vse, " zavajajoče. "To je popolnoma neresnično, " je dejal in napovedal popravek trga, kjer bo "prihodnje prihodke občutno zmanjšalo za ta vodila in avtomatizirane rdeče ekipe za testiranje. " Startupi za varnost AI so izkoristili močan interes vlagateljev. Tako velike tehnološke družbe kot tudi tveganega kapitala so intenzivno vlagale v to področje, saj se podjetja trudijo zaščititi svoje AI sisteme. Marca je Google kupil startup za kibernetsko varnost Wiz za 32 milijard dolarjev, da bi okrepil svoje storitve za zaščito v oblaku. Direktor Google Sundar Pichai je priznal, da AI prinaša "nove tveganja" v času, ko postajajo vse bolj razširjeni večoblaki in hibridna okolja. "V tem kontekstu organizacije iščejo rešitve za kibernetsko varnost, ki izboljšujejo varnost v oblaku na več platformah, " je dodal.