Makampuni yanaweza kuwa na timu za usalama wa mtandao, lakini mengi bado hayako tayari kwa njia ambazo mifumo ya AI hushindwa kweli, kulingana na mtafiti wa usalama wa AI. Sander Schulhoff, mwandishi wa moja ya miongozo ya kwanza ya uhandisi wa prompts na mtaalamu wa utovu wa usalama wa mifumo ya AI, alieleza kwenye kipindi cha hivi karibuni cha "Lenny's Podcast" kilichotolewa Jumapili kuwa mashirika mengi hayana wafanyakazi wenye ujuzi wa kutosha wa kuelewa na kupunguza hatari za usalama wa AI. Timu za usalama wa mtandao za kitamaduni zimefundwa kutengeneza makosa na kushughulikia zilizopo zinazojulikana, lakini AI inatenda tofauti. "Unaweza kuboresha kasoro, lakini huwezi kuboresha ubongo, " Schulhoff alieleza, akionyesha kile anachokiita kutengana kwa msingi kati ya jinsi timu za usalama zinavyokabili matatizo na jinsi mifumo mikubwa ya lugha inavyoshindwa. "Kuna kutengana kati ya jinsi AI inavyofanya kazi na usalama wa mtandao wa jadi, " aliongeza. Tano hili linadhihirika zaidi katika utekelezaji wa vitendo. Wataalamu wa usalama wa mtandao wanaweza kuchunguza mfumo wa AI kwa matatizo ya kiufundi bila kuzingatia: "What if someone manipulates the AI into performing something improper?" Schulhoff, anayesimamia jukwaa la uhandisi wa prompts na mashindano ya uhalifu wa red-team kwenye AI, alibainisha. Tofauti na programu za kawaida, mifumo ya AI inaweza kudhibitiwa kupitia lugha na maelekezo madogo madogo, alisisitiza. Schulhoff alibainisha kwamba watu wenye uzoefu katika usalama wa AI na usalama wa mtandao wa jadi wangejua jinsi ya kujibu ikiwa mfano wa AI utadanganywa kuleta msimbo hatari—kwa mfano, kwa kuendesha msimbo huo kwenye kiondo cha pekee ili kuzuia kutoa kwa AI kuhatarisha mfumo mpana. Anaamini muungano wa usalama wa AI na usalama wa mtandao wa jadi unawakilisha "kazi za usalama za baadaye. " Ukuaji wa startups za usalama wa AI Schulhoff pia alipongeza startups nyingi za usalama wa AI kwa kueneza vizuizi vinavyoshindwa kutoa ulinzi halisi.

Kwa kuwa mifumo ya AI inaweza kudhibitiwa kwa mbinu zisizo na mwisho, madai kuwa vifaa hivi vinaweza "kushika kila kitu" ni udanganyifu. "Hiyo si kweli kabisa, " alisema, akitabiri marekebisho ya soko ambapo "mapato yatapungua sana kwa vizuizi hivi na kampuni za red-teaming za kiotomatiki. " Startups za usalama wa AI zimefaidika kwa kuvutiwa sana na wawekezaji. Teknolojia kuu za Big Tech na kampuni za mtaji wa ubia zimewekeza sana katika sekta hii kwani kampuni zinajitahidi kulinda mifumo yao ya AI. Mnamo Machi, Google ilinunua kampuni ndogo ya usalama wa mtandao Wiz kwa dola bilioni 32 ili kuimarisha huduma zake za usalama wa clouds. Mkurugenzi Mkuu wa Google, Sundar Pichai, alikiri kuwa AI inaleta "hatari mpya" wakati maeneo ya mtandao wa wengi na mazingira mchanganyiko yanakuwa ya kawaida zaidi. “Katika muktadha huu, mashirika yanatafuta suluhisho za usalama wa mtandao zinazoimarisha usalama wa clouds nyingi, ” aliongeza.