Indeks sigurnosti AI otkriva Anthropic kao lidera u mjerama sigurnosti AI-ja.
Brief news summary
Nedavno je AI Safety Index procijenio prakse sigurnosti šest velikih AI kompanija: Anthropic, Google DeepMind, Meta, OpenAI, xAI i Zhipu AI. Rezultati su pokazali da Anthropic prednjači sa ocjenom C, dok je Meta zaostajala. Ovu procjenu je proveo Institut za budućnost života, s ciljem poticanja poboljšanja sigurnosti u cijeloj industriji. Max Tegmark iz Instituta naglasio je da takve procjene ističu važnost internih timova za sigurnost u očuvanju reputacije kompanija. Institut je posvećen smanjenju negativnih uticaja naprednih tehnologija i ranije je zagovarao pauziranje razvoja AI modela radi poboljšanja sigurnosti, prijedlog koji je uglavnom bio ignoriran. Evaluacija je ispitivala šest ključnih područja: procjenu rizika, trenutne štete, sigurnosne okvire, strategiju za egzistencijalnu sigurnost, upravljanje, odgovornost i transparentnost. Istraživački radovi, politički dokumenti i industrijski izvještaji služili su kao dokazi, ali samo su xAI i Zhipu AI popunili upitnike o transparentnosti. Stručnjaci poput Stuarta Russella i Yoshue Bengia izrazili su zabrinutost zbog postojećih sigurnosnih mjera i izazova upravljanja AI tehnologijama. Anthropic se isticao svojim pažljivim pristupom skaliranju i implementaciji AI-a, dobio je ocjenu B-. Međutim, izvještaj je naveo da nijedna od kompanija nema dovoljno razvijene strategije za egzistencijalnu sigurnost, što naglašava težinu usklađivanja superinteligentnih AI-a s ljudskim vrijednostima. Predloženo je usvajanje regulatornih mjera sličnih onima FDA kako bi se prioritizirala sigurnost i osigurali sigurni razvoj i primjena AI-a.Nedavno objavljeni Indeks sigurnosti AI procijenio je šest vodećih AI kompanija u pogledu njihovih mjera sigurnosti i procjene rizika, pri čemu je Anthropic dobio najvišu ocjenu C. Ostale kompanije — Google DeepMind, Meta, OpenAI, xAI i Zhipu AI — dobile su ocjene D+ ili niže, s tim da je Meta potpuno podbacila. Max Tegmark iz Instituta za budućnost života, koji je objavio izvještaj, ističe da cilj nije posramljivanje, već motivisanje kompanija da unaprijede svoje sigurnosne prakse, slično kao što univerziteti reaguju na rangiranje. Tegmark želi podržati istraživače u AI sigurnosnim timovima pružanjem utjecaja kako bi dobili resurse i poštovanje unutar svojih kompanija. Institut za budućnost života, fokusiran na sprečavanje negativnih ishoda moćnih tehnologija, ranije je pozvao na pauziranje razvoja AI kako bi se uspostavili sigurnosni standardi, iako kompanije nisu udovoljile ovom pozivu. Indeks sigurnosti AI procijenio je kompanije u šest oblasti: procjena rizika, trenutne štete, sigurnosni okviri, strategija egzistencijalne sigurnosti, upravljanje i odgovornost, te transparentnost. Iako su korišteni različiti izvori javnih informacija, većina kompanija nije odgovore na izvještaj, osim Google DeepMind-a, koji je izjavio da njihove mjere sigurnosti nadmašuju ono što indeks zabilježava. Evaluacija je uključivala nezavisne recenzente, uključujući značajne ličnosti poput Stuarta Russella i Yoshue Bengioa.
Utvrđeno je da postojeće sigurnosne aktivnosti kod ovih kompanija nisu efikasne i ne pružaju kvantitativne sigurnosne garancije. Izvještaj je posebno kritikovao kompanije zbog strategija egzistencijalne sigurnosti, jer većina nije precizirala adekvatne planove za osiguranje da umjetna opšta inteligencija (AGI) bude usklađena s ljudskim vrijednostima. Samo Anthropic je postigao relativno visoke ocjene, naročito u adresiranju trenutnih šteta, dijelom zbog njihove politike odgovornog skaliranja. Međutim, Tegmark poziva na regulatorni nadzor sličan FDA kako bi se osiguralo da AI proizvodi budu sigurni prije puštanja na tržište. Upozorava da su kompanije uhvaćene u natjecateljskoj utrci koja ometa temeljito testiranje sigurnosti, zagovarajući sigurnosne standarde koji prioritetiziraju tržišnu prednost za kompanije koje ih prve ispune.
Watch video about
Indeks sigurnosti AI otkriva Anthropic kao lidera u mjerama sigurnosti AI-ja.
Try our premium solution and start getting clients — at no cost to you
