Ali podjetja za umetno inteligenco ustrezno ščitijo človeštvo pred tveganji umetne inteligence?Po novi oceni, izdelani s strani inštituta Future of Life, nevladne organizacije iz Silicijeve doline, je odgovor verjetno ne. Osebno človeško-tehnološke interakcije z umetno inteligenco postajajo vse pomembnejše, kar razkriva tudi potencialne nevarnosti — od ljudi, ki z uporabo AI klepetalnih robotov za svetovanje in kasnejšo smrtjo zaradi samomora, do kibernapadov, ki jih omogoča umetna inteligenca. Pred nami so tudi prihodnja tveganja, kot so uporaba AI v vojaške namene ali poskusi destabilizacije vlad. Vendar pa obstajajo pomanjkljive spodbude za podjetja za umetno inteligenco, da bi prioritizirala globalno varnost. Inštitut je nedavno objavil indeks varnosti AI (AI Safety Index), ki naj bi usmerjal razvoj AI proti varnejšim izhodom in omilil obstojne krizne grožnje. Max Tegmark, predsednik inštituta ter profesor na MIT-ju, je opozoril, da podjetja za umetno inteligenco delujejo kot edinstveno ameriško industrijo, ki razvija močno tehnologijo brez ustreznih regulativ, kar ustvarja "drevo tekmovanja navzdol", kjer je varnost pogosto zanemarjena. Najvišje ocene na indeksu so bile le C+, ki sta jih prejela OpenAI, razvijalec ChatGPT, in Anthropic, znan po svojem klepetalnem robotu Claude. Googleova enota za umetno inteligenco, Google DeepMind, je prejela oceno C. Nižje ocene so bile D za podjetje Meta (last Facebooka) in Muskovo podjetje xAI, oba blizu Palo Alta. Kitajski podjetji Z. ai in DeepSeek sta prejela prav tako D. Najnižjo oceno, D-, pa je dobila Alibaba Cloud. Podjetja so bila ocenjena z uporabo 35 kazalnikov, razporejenih v šest kategorij, kot so obstojna varnost, ocena tveganj in izmenjava informacij. Ocena je temeljila na javno dostopnih podatkih in odgovorih podjetij na ankete, pri čemer je sodelovalo osem strokovnjakov s področja umetne inteligence, vključno z akademiki in voditelji organizacij. Zanimivo je, da so vse firme dosegle pod povprečjem na področju obstojne varnosti, ki meri notranje nadzorne mehanizme in strategije za preprečevanje katastrofalne zlorabe AI.

Porocilo je zatrdilo, da nobeno podjetje ni pokazalo prepričljivih načrtov za preprečitev izgube nadzora ali hujših zlorab, ko AI napreduje proti splošni in superinteligenci. Podjetja Google DeepMind in OpenAI sta potrdila svojo zavezanost k varnosti. OpenAI je poudaril svojo vlaganje v raziskave najnovejše varnosti, stroge teste ter deljenje varnostnih okvirov za dvig standardov v panogi. Google DeepMind pa je izpostavil svoj znanstvenoraziskovalni pristop k varnosti in protokole za blažitev resnih tveganj pred posebnimi naprednejšimi modeli AI, preden se ti tveganja materializirajo. Po drugi strani pa je inštitut opozoril, da imata podjetji xAI in Meta okvire za upravljanje tveganj, vendar nimata zadostnih zavez za spremljanje in nadzor ali pomembnih vlaganj v raziskave varnosti. Podjetja, kot so DeepSeek, Z. ai in Alibaba Cloud, nimajo javno dostopne dokumentacije o strategiji varnosti. Meta, Z. ai, DeepSeek, Alibaba in Anthropic niso odgovorili na prošnje za komentar. xAI je poročilo označil za “Lagodno laž medijskih medialnih hiš, ” Muskov odvetnik pa ni odgovoril na dodatna vprašanja. Čeprav Musk svetuje in financira inštitut Future of Life, ni bil vključen v izdelavo indeksa varnosti AI. Tegmark je izrazil zaskrbljenost, da bi pomanjkljive regulacije omogočile teroristom razvoj biološkega orožja, povečale manipulativne možnosti nad trenutnimi ravnmi ali destabilizirale vladne strukture. Poudaril je, da je reševanje teh vprašanj preprosto: vzpostaviti zavezujoče varnostne standarde za podjetja za umetno inteligenco. Medtem ko nekateri vladni poskusi poskušajo okrepiti nadzor nad AI, pa je lobiranje v tehnološki industriji nasprotovalo takšnim regulativam, saj se bojijo zastojev v inovacijah ali selitve podjetij v druge države. Kljub temu pa zakonodaja, kot je kalifornijski SB 53, ki ga je septembra podpisal guverner Gavin Newsom, od podjetij zahteva razkritje varnostnih in varnostnih protokolov ter poročanje o incidentih, kot so kibernapadi. Tegmark meni, da je ta zakon napredek, vendar je potrebnih še bistveno več ukrepov. Rob Enderle, glavni analitik pri skupini Enderle, je indeks varnosti AI ocenil kot prepričljiv pristop k pravnim izzivom na področju AI, a je opozoril na omejeno sposobnost trenutne ameriške administracije za uspešno izvajanje učinkovitih pravil. Obenem je dvomil, da so sedanje izvršne mehanizme v praksi sposobne zagotoviti skladnost. Na splošno pokazuje indeks varnosti AI, da pomembni razvijalci AI še niso pokazali trdnih zavez k varnosti, kar poudarja nujnost strožjih regulativ za zaščito človeštva pred naraščajočimi tveganji umetne inteligence.