Razgovor Prije nego što AI postane raširena u preduzećima, lideri kompanija moraju se obavezati na kontinuirani režim sigurnosnih testiranja prilagođen specifikumima AI modela. Ovo mišljenje dijeli izvršni direktor Chatterbox Labs-a Danny Coleman i tehnički direktor Stuart Battersby, koji su detaljno razgovarali za The Register o tome zašto je do sada kompanijama bilo sporo da pređu od pilot projekata sa AI-jem do pune proizvodne primjene. "Uključivanje u preduzeće je danas tek otprilike deset posto, " rekao je Coleman. "McKinsey procjenjuje da je to tržište vrijedno četiri biliona dolara. Kako ćete ikada napredovati ako nastavite objavljivati rješenja za koja ljudi ne znaju da li su sigurna za korištenje, ili ako nisu svjesni ne samo poslovnog nego i društvenog utjecaja?" Dodao je: "Ljudi unutar preduzeća nisu potpuno spremni za ovu tehnologiju bez odgovarajućeg upravljanja i sigurnosti. " U januaru, konzultantska firma McKinsey objavila je izvještaj koji analizira neiskorišteni potencijal umjetne inteligencije (AI) u radnom okruženju. Izvještaj pod nazivom "Superagencija u radnom okruženju: Osnaživanje ljudi za otključavanje punog potencijala AI-a, " ističe rastuće zanimanje i ulaganja u AI tehnologije, ali primjećuje da je tempo usvajanja i dalje spor. ". . . ono što morate učiniti jeste da ne vjerujete retorici ni od vendora modela ni od vendora sigurnosnih ograničenja, jer će svi tvrditi da je to izuzetno sigurno i pouzdano. " "Lideri žele povećati ulaganja u AI i ubrzati razvoj, ali se bore s načinima kako osigurati da je AI siguran u radnom okruženju, " navodi izvještaj McKinseyja. Coleman tvrdi da se tradicionalni kibernetička sigurnost i sigurnost AI-a prepliću, ali većina timova za informacijsku sigurnost tek zaostaje i često nema stručnost potrebnu za razumijevanje jedinstvenih napadačkih površina AI-ja. Kao primjere naveo je akvizicije kompanija Ciscoa Robust Intelligence i Palo Alto Networksa, koje su usvojile odgovarajuće strategije. Battersby je naglasio da organizacije koje žele na široko implementirati AI moraju uspostaviti režim stalnih testiranja zasnovanih na tome šta AI servis zaista radi. "Prvi korak je definirati šta za vašu specifičnu primjenu znači sigurno i bezbedno, " objasnio je.

"Zatim morate izbjegavati oslanjanje isključivo na izjave pružaoca modela ili prodavca sigurnosnih ograničenja, jer svi tvrde da su njihova rješenja izuzetno sigurna. " Ova opreznost je ključna, istakao je Battersby, jer čak i ovlašteni korisnici AI sustava mogu izazvati njegovo štetno ponašanje. "Želimo naglasiti da zaštitni filteri sadržaja i sigurnosna ograničenja sama po sebi nisu dovoljni, " rekao je Coleman. "Ovo skoro sigurno neće promijeniti u skorije vrijeme. Rješenje mora biti slojevito i mnogo sofisticiranije. " Iako ovakav pristup može izazvati dodatne troškove, Battersby tvrdi da kontinuirano testiranje može smanjiti troškove, na primjer, demonstriranjem da su manji, jeftiniji modeli još uvijek sigurni za određene slučajeve upotrebe. Cijeli intervju nastavljen je u nastavku…