Najnovije Izvještaj o Troškovima proboja podataka kompanije IBM ističe ključni problem u sigurnosti umjetne inteligencije: organizacije brzo usvajaju AI tehnologije bez adekvatnih sigurnosnih mjera i okvirnih pravila upravljanja. Mnoge firme integriraju AI modele i aplikacije brže nego što ih mogu sigurno zaštititi, čime se povećavaju rizici od proboja podataka i ranjivosti. Zanimljivo je da je 13% anketiranih organizacija prijavilo proboje povezane s AI sistemima, čime se ističe sve veća uloga AI komponenti kao vektora napada s ozbiljnim operativnim, financijskim i reputacijskim posljedicama. Izvještaj otkriva da je 97% organizacija koje su doživjele proboje povezane s AI-jem nedostatak odgovarajuće kontrole pristupa AI, što znatno povećava rizik od neovlaštenog pristupa i zloupotrebe. Kako AI postaje središnji dio digitalne transformacije, potrebni su snažni sigurnosni protokoli specifični za AI — uključujući stroge upravljačke pristupe, stalno praćenje, detekciju prijetnji i procjene rizika. Nalazi pozivaju šefove sigurnosti (CISO), sigurnosne timove i izvršne direktore da prilagode strategije ulaganjima u obuku zaposlenika usmjerenu na rizike AI-ja i saradnju s ekspertima za AI i kibernetsku sigurnost radi izgradnje otpornijih odbrana. Analitičari industrije pripisuju sigurnosne praznine novosti AI-ja, složenosti sistema i ograniđenom razumijevanju specifičnih rizika AI-ja unutar tradicionalnih okvira kibernetske sigurnosti, ostavljajući organizacije nedovoljno pripremljenim za otkrivanje i ublažavanje napada povezanih s AI-jem. Ugradnja sigurnosti AI-ja dizajnom tokom razvojnih ciklusa — uključujući prijetnje poput zagađenja podataka, inverzije modela i adversarijalnih ulaza — može smanjiti rizike od samog početka.

Izvještaj također naglašava važnost usklađenosti s novim etičkim i sigurnosnim propisima za AI, upozoravajući da neusklađenost s tim pravnim okvirima može rezultirati kaznama i probojima sigurnosti. IBM preporučuje sveobuhvatne revizije sigurnosnih postavki AI sustava i kontrola pristupa, uspostavljanje odgovornosti te razvoj kulture svijesti o sigurnosti vezane za AI. Izvještaj prikazuje sigurnost AI-ja kao zaostalu za tehnološkim napretkom, što stvara povećane ranjivosti. Kao odgovor na to, organizacije bi trebale usvojiti višeslojne odbrane, uključujući AI-pokretne alate za sigurnost za otkrivanje anomalija u realnom vremenu, i poticati suradnju među timovima za kibernetsku sigurnost, IT, usklađenost i poslovne jedinice za jedinstvene strategije odbrane koje će adresirati kako tehničke, tako i ljudske faktore. Na kraju, izvještaj ističe da uspjeh AI inicijativa zavisi ne samo od tehničkih kapaciteta već i od snažnih sigurnosnih okvira. Zanemarivanje sigurnosnih praznina AI-ja rizikuje skupe proboje koji mogu narušiti povjerenje, usporiti inovacije i izložiti osjetljive podatke. Kako AI prodiru u sve aspekte poslovanja, poboljšanje sigurnosti i upravljanja AI-jem postaje hitnije nego ikada. Organizacije moraju odlučno premostiti jaz između usvajanja AI-ja i sigurnosti kako bi sigurno iskoristile pun potencijal AI-ja, osiguravajući rast bez kompromisa u sigurnosti i integritetu.