Da li kompanije koje se bave veštačkom inteligencijom adekvatno štite čovečanstvo od rizika veštačke inteligencije?Prema novom izveštaju o oceni od strane Future of Life Institute, neprofitne organizacije iz Silikonske doline, odgovor je najverovatnije ne. Kako veštačka inteligencija postaje sve više sastavni deo ljudsko-tehnoloških interakcija, pojavljuju se potencijalne opasnosti – od toga da ljudi koriste AI chatbote za savetovanje, a zatim sebe ugroze suicidom, do AI-om omogućene sajber napade. Predstavljaju se i budući rizici, uključujući korišćenje AI u naoružanju ili pokušaje destabilizacije vlada. Međutim, ne postoji dovoljan podsticaj za AI firme da prioritet daju globalnoj bezbednosti. Nedavno objavljeni Index za bezbednost veštačke inteligencije, koji ima za cilj da usmeri razvoj AI ka bezbednijim ishodima i ublaži egzistencijalne pretnje, ističe ovaj problem. Max Tegmark, predsednik Instituta i profesor na MIT-u, napomenuo je da kompanije za AI posluju kao jedina industrija u SAD koja proizvodi moćnu tehnologiju bez regulative, stvarajući „utrku do dna“ u kojoj je sigurnost često zapostavljena. Najviši ocenjeni rezultati na indeksu bili su C+, koje su dobile OpenAI, tvorac ChatGPT-a, i Anthropic, poznat po svom chatbota Claude. Googleova AI divizija, Google DeepMind, dobila je C. Niže ocene imale su D za Meta (kompaniju roditelja Facebooka) i Elonov xAI, oba smeštena u blizini Pala Altu. Kineske firme Z. ai i DeepSeek takođe su zaslužile D. Alibaba Cloud je dobio najnižu ocenu, D-. Kompanije su procenjivane pomoću 35 indikatora u okviru šest kategorija, kao što su egzistencijalna bezbednost, procena rizika i razmena informacija. Procena je kombinovala dostupne javne podatke i odgovore firmi na anketu, a ocenjivali su ih osam slučajnih eksperata za veštačku inteligenciju, uključujući akademike i lidere organizacija. Zanimljivo je da su sve firme imale ocenu ispod proseka u oblasti egzistencijalne bezbednosti, koja meri interne kontrole i strategije za sprečavanje katastrofalne zloupotrebe AI.

Izveštaj je naveo da nijedna od njih nije prikazala kredibilne planove za sprečavanje gubljenja kontrole ili ozbiljne zloupotrebe kako AI napreduje ka opštem i superinteligentnom nivou. I Google DeepMind i OpenAI izrazili su svoju posvećenost bezbednosti. OpenAI je istakao svoje ulaganje u najnovije bezbednosne istraživačke projekte, rigorozno testiranje i deljenje okvira za bezbednost kako bi podigli standarde u industriji. Google DeepMind naglasio je svoj naučno vođen pristup bezbednosti i protokole za ublažavanje ozbiljnih rizika od naprednih AI modela pre nego što ti rizici postanu stvarnost. Suprotno tome, Institut je istakao da xAI i Meta imaju okvire za upravljanje rizicima, ali nemaju dovoljno obavezujućih planova nadzora i kontrole ili značajnih ulaganja u bezbednosna istraživanja. Firmama poput DeepSeek, Z. ai i Alibaba Cloud nedostaju javno dostupne dokumentacije o strategijama za bezbednost. Meta, Z. ai, DeepSeek, Alibaba i Anthropic nisu pružili komentare na upite. xAI je odbacio izveštaj nazivajući ga „lažima starih medija“, dok advokat Muska nije odgovorio na dodatne upite. Iako Musk savetuje i finansira Future of Life Institute, on nije bio uključen u izradu Indexa za bezbednost AI. Tegmark je izrazio zabrinutost da nedovoljna regulativa može omogućiti teroristima razvoj biološkog oružja, povećati manipulativni potencijal iznad trenutnog nivoa ili destabilizovati vlade. Naglasio je da je rešavanje ovih problema jednostavno: uspostaviti obavezujuće bezbednosne standarde za AI kompanije. Dok neki napori vlade imaju za cilj da poboljšaju nadzor nad AI, lobiranje u tehnološkom sektoru protivilo se takvim regulativama, bojeći se zaustavljanja inovacija ili preseljenja korporacija. Ipak, zakon, poput kalifornijskog SB 53, koji je potpisao guverner Gavin Newsom u septembru, nalaže kompanijama da otkriju bezbednosne i sigurnosne protokole i prijave incidente poput sajber napada. Tegmark smatra da je to korak napred, ali ističe da je potrebno značajno više akcije. Rob Enderle, glavni analitičar u Enderle Groupu, smatra Index za bezbednost AI za interesantan način regulacije AI, ali je skepticican u pogledu sposobnosti trenutne američke administracije da sprovede efikasne regulative. Upozorio je da slabo osmišljena pravila mogu izazvati štetu i sumnja da postoje mehanizmi za sprovođenje i osiguranje usklađenosti. Ukratko, Index za bezbednost AI otkriva da veliki proizvođači AI još uvek nisu pokazali snažne obaveze za bezbednost, čime se ističe hitna potreba za jačom regulativom kako bi se čovečanstvo zaštitilo od rastućih rizika AI.