Įmonės gali turėti savo kibernetinės saugos komandas, tačiau daugelis vis dar nėra pasiruošusios tam, kaip iš tikrųjų nepavyksta dirbant su dirbtinio intelekto sistemomis, teigia AI saugumo tyrinėtojas. Sander Schulhoff, vieno iš pirmųjų vadovėlių apie prompt engineering autoriaus ir AI sistemų pažeidžiamumų ekspertas, neseniai išleistoje laidoje „Lenny's Podcast“ sekmadienį teigė, kad daugelis organizacijų neturi reikalingų kvalifikuotų specialistų, kurie galėtų suprasti ir sumažinti AI saugumo rizikas. Tradicinės kibernetinės saugos komandos mokomos taisyti klaidas ir spręsti žinomus pažeidžiamumus, tačiau AI elgiasi kitaip. „Galite pataisyti klaidą, bet nesugebate pataisyti proto, “ paaiškino Schulhoff, išryškindamas, ką jis laiko esminiu nesusikalbėjimu tarp to, kaip saugumo komandos sprendžia problemas, ir kaip gali būti nepavyksta didžiosios kalbos modeliai. „Tarp jų yra spraga tarp AI veikimo ir tradicinės kibernetinės saugos, “ pridūrė jis. Ši spraga tampa akivaizdi praktinėse diegimuose. Kibernetinės saugos ekspertai gali patikrinti AI sistemą dėl techninių trūkumų, tačiau neapsiriboja: „O kas, jei kažkas manipuliuos AI ir privers jį atlikti netinkamą veiksmą?“ pažymėjo Schulhoff, kuris valdo prompt engineering platformą ir organizuoja AI red-teaming’ą hackathonuose. Skirtingai nuo įprastos programinės įrangos, AI sistemos gali būti įtakojamos žodžiais ir subtiliomis instrukcijomis, jis pabrėžė. Schulhoff pažymėjo, kad patyrę tiek AI saugumo, tiek tradicinės kibernetinės saugos specialistai žinotų, kaip reaguoti, jei AI modelis būtų apgautas ir duotų kenksmingą kodą — pavyzdžiui, jį vykdant izoliaciniame konteineryje, siekiant apsaugoti platesnę sistemą nuo žalos. Jis mano, kad AI saugumo ir tradicinės kibernetinės saugos susiliejimas atstovauja „rūpinių saugumo darbų ateitį. “ AI saugumo startuolių atsiradimas Schulhoff taip pat kritikavo daugelį AI saugumo startuolių, kurie skelbia apie apsaugos priemones, nesuteikiančias tikros apsaugos.

Kadangi AI sistemos gali būti manipuliuojamos įvairiomis taktikai, teiginių, kad šie įrankiai gali „apimti viską“, yra apgaulingi. „Tai visiškai klaidinga, “ sakė jis ir prognozavo rinkos korekciją, po kurios „šių apsaugos priemonių ir automatinių red-teaming’ų įmonių pajamos žymiai sumažės. “ AI saugumo startuoliai stipriai sulaukė investuotojų dėmesio. Didžiosios technologijų įmonės ir rizikos kapitalo fondai investavo į šią sritį, siekdamos užtikrinti savo AI sistemų saugumą. Kovo mėnesį „Google“ įsigijo kibernetinės saugos startuolį Wiz už 32 milijardus dolerių, kad sustiprintų savo debesijos saugumo paslaugas. „Google“ vadovas Sundaras Pichaidas pripažino, kad AI kuria „naujas rizikas“ tuo metu, kai daugiaviečių debesijos ir hibridinės aplinkos tampa vis labiau paplitusios. „Šiuo kontekstu organizacijos ieško kibernetinės saugos sprendimų, kurie pagerintų debesijos saugumą keliuose debesyse, “ pridūrė jis.