Maaaring may mga cybersecurity team ang mga kumpanya, ngunit marami pa rin ang hindi handa sa mga paraan kung paano talaga pumalya ang mga AI system, ayon sa isang AI security researcher. Sinabi ni Sander Schulhoff, na sumulat ng isa sa mga unang gabay sa prompt engineering at isang eksperto sa mga kahinaan ng AI system, sa isang kamakailang episode ng "Lenny's Podcast" na inilabas noong Linggo, na maraming organisasyon ang kulang sa mahuhusay na tauhan na kailangan upang maunawaan at mapasara ang mga panganib sa seguridad ng AI. Ang mga tradisyunal na cybersecurity team ay sanay sa pag-aayos ng mga bugs at pag-trato sa mga kilalang kahinaan, ngunit iba ang asal ng AI. "Maaring i-patch ang isang bug, pero di mo pwedeng i-patch ang isang utak, " paliwanag ni Schulhoff, na binibigyang-diin ang nakikita niyang pangunahing di pagkakaunawaan sa pagitan ng paraan ng paglapit ng mga seguridad na team sa mga problema at kung paano pumalya ang mga malalaking language models. "May di pagkakaunawaan sa kung paano gumagana ang AI at sa tradisyunal na cybersecurity, " dagdag niya. Nagmumula ang bahaging ito kapag isinasagawa ang praktikal na deployment. Maaring suriin ng mga eksperto sa cybersecurity ang isang AI system para sa mga teknikal na isyu nang hindi iniisip: "Paano kung may makahawa sa AI na gawin ang isang hindi nararapat?" Pumupuna si Schulhoff, na namamahala sa isang platform sa prompt engineering at isang AI red-team hackathon. Hindi tulad ng tradisyunal na software, ang mga AI system ay maaring maimpluwensyahan sa pamamagitan ng wika at mga maliliit na utos, binigyang-diin niya. Sinabi ni Schulhoff na alam ng mga taong may karanasan sa parehong AI security at tradisyunal na cybersecurity kung paano tutugon kapag na-trick ang isang AI na maglabas ng masama sa layong paggawa ng masama, tulad ng pagpapatakbo ng code sa isang hiwalay na lalagyan upang mapigilan ang anumang mapanirang output ng AI na makasagasa sa mas malawak na sistema. Naniniwala siya na ang pagsasanib ng AI security at tradisyunal na cybersecurity ay nagsisilbing "trabaho sa seguridad ng hinaharap. " Ang pag-usbong ng mga startup sa AI security Pinuna rin ni Schulhoff ang maraming AI security startup dahil sa mga patakaran na hindi tunay na nagbibigay ng proteksyon.

Dahil maaaring manipulahin ang mga AI system sa walang katapusang paraan, ang mga pahayag na kayang " mahuli ang lahat" ng mga kasangkapang ito ay panlilinlang. "Ganap na mali iyon, " sabi niya, na nagkakaroon ng prediksyon na magkakaroon ng pagbabawas sa kita ng mga kumpanya na nagpo-provide ng mga guardrail at automated red-teaming. Nakikinabang ang mga AI security startup mula sa matinding interes ng mga mamumuhunan. Parehong malaki ang inilalaan ng mga kumpanya sa Teknolohiya at mga venture capital firms sa sektor na ito habang nagsisikap ang mga kumpanya na mapalakas ang seguridad ng kanilang mga AI system. Noong Marso, binili ng Google ang cybersecurity startup na Wiz sa halagang $32 bilyon upang mapalakas ang kanilang cloud security services. Inamin ni Google CEO Sundar Pichai na nagdudulot ang AI ng "mga bagong panganib" habang lalong lumalawak ang multi-cloud at hybrid na mga kapaligiran. “Sa ganitong konteksto, naghahanap ang mga organisasyon ng mga solusyon sa cybersecurity na nagsusulong ng pagpapaigting sa seguridad ng cloud sa maraming cloud, ” dagdag niya.