Eru fyrirtæki í greininni nægjanlega góð að verja mannkinið gegn áhættum leiðsagækjandi gervigreindar?Samkvæmt nýju mati frá Future of Life Institute, óstofnun í Silicon Valley, líkist svarið því neitandi. Þar sem gervigreind verður sífellt meira hluti af mann-tækni samskiptum, koma fram hugsanlegar hættur—börn og fullorðnir nota gervigreindarspjallmenni til ráðgjafar og deyja síðar vegna sjálfsvíga, auk netárása með aðstoð gervigreindar. Áhættur til framtíðar eru einnig í sjónmáli, þar á meðal notkun gervigreindar í vopn, eða tilraun til að valda óstöðugleika hjá stjórnvöldum. Hins vegar finnast lítið hvata fyrir fyrirtæki í greininni til að leggja áherslu á allan heiminn öryggi. Nýlega gaf Institute út AI Safety Index, sem leitast við að leiðbeinast í þróun gervigreindar til öruggari niðurstaðna og draga úr ógnum sem geta valdið mannkyni óbætanlegum skaða. Max Tegmark, forstjóri Institute og prófessor við MIT, sagði að fyrirtæki í gervigreindariðnaðinum starfi sem eina iðnaðarstétt í Bandaríkjunum sem framleiði öfluga tækni án reglugerðar, sem veldur „keppni til botns“ þar sem öryggi er oft látið verða fyrir íli. Hæstu einkunnir á indexinu voru aðeins C+, sem var veitt OpenAI, þróunaraðila ChatGPT, og Anthropic, þekkt fyrir spjallmennið Claude. Google’s AI deild, Google DeepMind, fékk C. Lægri einkunnir voru D fyrir Meta (faacebook móðurfélagið) og xAI, stofnað af Elon Musk, bæði nær Palo Alto. Kínversku fyrirtæki Z. ai og DeepSeek fengu einnig D. Alibaba Cloud fékk neðstu einkunn, D-. Fyrirtækin voru metin út frá 35 mælikvörðum á sex sviðum eins og mannúðalega öryggi, áhættumats og upplýsingaöflunar. Matið byggði á opinberum gögnum og viðtölum við fyrirtækjafulltrúa, metið af átta sérfræðingum í gervigreind sem eru bæði fræðimenn og leiðtogar. athyglisvert er að öll fyrirtækin fengu einkunn neðar en meðaltal í mannúðalegu öryggi, sem mælir innra eftirlit og aðgerðir til að forðast skaðleg misnotkun á gervigreind. Skýrslan sagði að engin þeirra hafi sýnt fram á trúverðugar áætlanir um að koma í veg fyrir tap á stjórn eða mikilvæg misnotkun þegar gervigreind fer að þróast í átt að almennu og yfirmenntu. Bæði Google DeepMind og OpenAI staðfesti skuldbindingu sína til öryggis. OpenAI lagði áherslu á fjárfestingu í nýjustu öryggisrannsóknum, ströng próf og deili á öryggisrammandi til að hækka stöðu iðnaðarins.

Google DeepMind lagði áherslu á ráðandi vistfræðiöryggisaðferðir og verklag til að draga úr miklum áhættum frá þróuðum gervigreindarhorfum áður en þær koma fram. Andstætt þessu, bætti Institute við að xAI og Meta hafa áhættustjórnunarkerfi, en vantar viðeigandi eftirlit og stjórnunartryggingar eða framfarir í áhætturannsóknum. Fyrirtæki eins og DeepSeek, Z. ai og Alibaba Cloud hafa enga opinbera skjöl um öryggisstefnu. Meta, Z. ai, DeepSeek, Alibaba og Anthropic brugðu ekki við beiðnum um viðbrögð. xAI hafnaði skýrslunni sem „Lögsaga fjölmiðla því glógu“. Lagmaður Musk svaraði ekki spurningum frekar. Þótt Musk styðji og hafi fjárfest í Future of Life Institute, var hann ekki þátttakandi í gerð AI Safety Index. Tegmark hafði áhyggjur af að skortur á reglugerðum gæti opnað leið fyrir hryðjuverkamenn til að þróa lífvænlegar bakteríusprengjur, auk þess sem það gæti aukið stjórnmála-, tækni- og öryggisógnir. Hann lagði áherslu á að vandamálin séu einföld að leysa: að setja bindandi öryggisstaðla fyrir fyrirtæki í greininni. Þó að nokkrar ríkisstjórnartilraunir leggi áherslu á aukna yfirumsjón með gervigreind, hafa tæknilegar hagsmunasamtök fordæmt slíkar reglur, af ótta við stöðvun í nýsköpun eða flutning fyrirtækja á öðrum svæðum. Samt virðist lög eins og SB 53 í Kaliforníu, sem Gavan Newsom skrifaði undir í september, vera skref fram á við. Þetta lög krefst þess að fyrirtæki skorti öryggis- og öryggisráðstafanir, og að þau tilkynni um öryggisáföll, s. s. netárásir. Tegmark telur þetta vera jákvæð skref, en krefst meiri aðgerða. Rob Enderle, aðalgreiningarmaður hjá Enderle Group, taldi AI Safety Index vera áhugaverlegt snið að lagastarfi en viðurkenndi að Bandaríkjastjórnin hafi takmarkaðan getu til að setja fram skilvirkar reglur. Hann varar við því að fyrirfinnanlegar reglur megi geta valdið skaða og efast um að núverandi innleiðingakerfi tryggji að fyrirtæki standist þær. Samantektin sýnir að helstu þróunaraðilar í gervigreind hafa enn ekki sýnt fram á traustar öryggisáætlanir, og undirstrikar nauðsyn þess að setja inn stærri reglugerðir til að vernda mannkinið gegn vaxandi áhættu gervigreindar.