Fyrirtæki kunna að hafa öryggisdeildir í gangi, en mörg eru enn óundirbúin fyrir hvernig gervigreindarkerfi raunverulega bregðast við, að því er fram kemur í tölvuöryggisrannsakanda AI. Sander Schulhoff, höfundur einnar fyrstu leiðbeininga um spurningastjórnun og sérfræðingur á sviði veikleika AI kerfa, sagði í nýlegum þætti af „Lenny's Podcast“ sem kom út á sunnudaginn að mörg fyrirtæki séu skorti aðila með sérþekkingu til að skilja og draga úr áhættu frá AI öryggismálum. Hægt er að segja að hefðbundnar tölvuöryggissveitir séu þjálfaðar í að laga villur og bregðast við þekktum veikleikum, en AI hegðar sér á annan hátt. „Þú getur lagað villu, en þú getur ekki lagað heilann, “ útskýrði Schulhoff, og lagði áherslu á það sem hann telur vera grundvallarrof milli hvernig öryggissveitarnar nálgast vandamál og hvernig stór tungumálamódel bregðast við mistökum. „Það er ólíklegt að starfsemi AI og hefðbundið tölvuöryggið passi saman, “ bætti hann við. Þessi bil verður greinilegt í raunverulegum útfærslum. Tölvuöryggissérfræðingar gætu kannað AI kerfi fyrir tæknileg vandamál án þess að hugsa: „Hvað ef einhver beitir AI aðferðum til að stjórna henni til að framkvæma eitthvað óviðeigandi?“ Schulhoff, sem rekur vettvang fyrir spurningastjórnun og AI-hackathon sem miðar að því að finna veikleika í kerfum, minnti á þetta. Ólíkt hefðbundnu hugbúnaði, geta AI kerfi verið stjórnað með tungumáli og fínum leiðum, lagði hann áherslu á.

Schulhoff nefndi að einstaklingar sem hafa reynslu bæði af öryggi AI og hefðbundnu tölvuöryggi vitnu að hvernig eigi að bregðast ef AI mynd er beitt til að búa til illgjarn kóða—til dæmis með því að keyra kóðann í einangruðum umhverfi til að koma í veg fyrir að útgangur AI skaði víðara kerfið. Hann trúir að samruni AI öryggis og hefðbundins tölvuöryggis sé „öryggissvið framtíðarinnar. “ Aukin kynni AI öryggisfyrirtækja Schulhoff gagnrýndi einnig mörg AI öryggisfyrirtæki fyrir að kynna raunveruleg vörnartól sem skorti að koma í veg fyrir örlög. Vegna þess að AI kerfi geta verið stjórnað með óteljandi aðferðum, er fullyrt að fullyrðingar um að þessi tól geti „fengið allt“ séu falskar. „Það er alveg rangt, “ sagði hann, og spáði því að markaðurinn myndi leiða til endurmats þar sem „tekjur munu minnka verulega fyrir þessi vörnartól og sjálfvirka vörnumyndunarfyrirtæki. “ AI öryggisfyrirtæki hafa notið mikilla fjárfestingahvetja. Bæði stórtölvufyrirtæki og fjárfestingarsjóðir hafa lagt mikið fé í þessa grein, því fyrirtæki keppa að tryggja öryggi AI kerfa sinna. Í mars keypti Google hugbúnaðarfyrirtækið Wiz fyrir 32 milljarða dollara til að styrkja skýjavörn sína. Forstjóri Google, Sundar Pichai, viðurkenndi að AI bregðast við „nýjum áhættum“ á tímum þar sem fleiri skýja- og samblandssvæði eru að verða algengari. „Í þessu samhengi leita fyrirtæki að tölvuöryggislausnum sem auka öryggi í skýjakerfum á mörgum svæðum, “ bætti hann við.