Sigurnost je suočena sa značajnim izazovima u protekloj godini, s brojnim eksploatacijama i nultim danom napada koji drže sigurnosne timove na nogama. Na regulativnom frontu, američka SEC je uvela stroge zahtjeve za izvještavanje o incidentima, dok su tijela EU predložila okvire poput Zakona o umjetnoj inteligenciji kako bi se pozabavila rastućim prijetnjama koje AI predstavlja. Ovi izazovi su dodatno pogoršani porastom novih AI prijetnji, koje su dodale složenost sigurnosnoj industriji. Organizacije su sada pod pritiskom ne samo da se brane od ovih naprednih prijetnji već i da iskoriste moć AI u svojim sigurnosnim programima. AI je postao duboko ukorijenjen u organizacijskim sistemima, zamagljujući granice odgovornosti unutar kompanija, slično ranim danima oblaka i SaaS-a. Ovo je potaklo pozive za jedinstven i kolaborativan pristup sigurnosti, prepoznajući da je kolektivni napor potreban za zaštitu od evoluirajućih prijetnji. Međutim, brzina kojom AI evoluira i raste nadmašuje ono što smo vidjeli s tehnologijama baziranim na oblaku. Ovo zahtijeva od sigurnosnih lidera da razmišljaju i djeluju brže kako bi ostali korak ispred prijetnji u ovom hrabrom novom svijetu AI. Mnogo toga još uvijek je nepoznato o AI, s nekima koji ga opisuju kao 'tehnologiju nalik vanzemaljcima. ' Iako mnogi sigurnosni praktičari vjeruju u ukupni pozitivan uticaj AI, ostaje nevjerovatno izazovno za razumjeti. Postoje tri glavna rizika s kojima se suočavamo danas sa AI sigurnošću. U budućnosti, izgradnja mostova između odjela zahtijevat će jači napor zbog složenosti i sveprisutnosti AI.

Organizacije će trebati različite vlasnike za različite AI rizike, imajući na umu da neki rizici prelaze granice sigurnosti i utječu na druge aspekte poslovanja. Odgovornosti i hijerarhija će se razlikovati među organizacijama i prirodno će se razvijati s vremenom. Međutim, u kratkom roku, vidim sljedeće uloge i odgovornosti: - CISO će biti odgovoran za prevenciju gubitka podataka, osiguranje integriteta podataka i zaštitu od manipulacije podacima. Blisko surađujući s CLO, CISO će osigurati usklađenost s propisima kao što su GDPR ili HIPAA. - CLO će biti odgovoran za pitanja autorskih prava i upravljanje odgovornostima koje proizlaze iz upotrebe AI eksterno. Na primjer, ako AI-softver neispravno klasificira slike i dovede do pravne provjere, CLO će to riješiti. - CPO ili CTO će nadgledati prijetnje vezane za ubrizgavanje poticaja i zlonamjernih sadržaja, osiguravajući da AI sistemi nisu samo sigurni nego i da pravilno funkcionišu u prisustvu potencijalno štetnih ulaza. Da bismo djelovali, trebamo promišljeno i na pravi način usvojiti AI tehnologiju. Sigurnosni timovi koji se opiru ovom trendu bit će ostavljeni iza. Suradnja, transparentnost od dobavljača i kontinuirano ažuriranje resursa iz zajednice su ključni koraci koje sigurnosni timovi trebaju poduzeti kako bi bolje zaštitili svoje organizacije od novonastalih AI prijetnji.