Mister AI-selskaper tilstrekkelig beskytter menneskeheten mot risikoene ved kunstig intelligens?Ifølge en ny vurderingsrapport fra Future of Life Institute, en non-profit organisasjon i Silicon Valley, er svaret sannsynligvis nei. Etter hvert som AI blir stadig mer integrert i samspillet mellom mennesker og teknologi, avdekker potensielle skader seg—fra at folk bruker AI-chatboter til rådgivning og senere tar sitt eget liv, til AI-aktivert cyberangrep. Fremtidige risikoer truer også, inkludert bruk av AI i våpen eller forsøk på å destabilisere regimer. Likevel eksisterer det utilstrekkelige insentiver for AI-firmene til å prioritere global sikkerhet. Instituttets nylig utgitte AI Safety Index, som har som mål å styre AI-utviklingen mot tryggere utfall og redusere eksistensielle trusler, belyser dette problemet. Max Tegmark, instituttets president og MIT-professor, påpekte at AI-selskaper opererer som den eneste amerikanske industrien som produserer kraftig teknologi uten regulering, og skaper en "kappløp mot bunnen" hvor sikkerhet ofte neglisjeres. De høyeste karakterene på indeksen var kun C+, gitt til OpenAI, utvikleren av ChatGPT, og Anthropic, kjent for sin chatbot Claude. Googles AI-divisjon, Google DeepMind, fikk en C. Lavere karakterer inkluderte D for Meta (Facebooks morselskap) og Elon Musks xAI, begge basert i nærheten av Palo Alto. Kinesiske selskaper som Z. ai og DeepSeek fikk også en D. Alibaba Cloud fikk den laveste vurderingen, D-. Firmaene ble evaluert med 35 indikatorer fordelt på seks kategorier som eksistensiell sikkerhet, risikovurdering og informasjonsdeling. Vurderingen kombinerte offentlig tilgjengelige data og selskapets egne svar på undersøkelser, vurdert av åtte AI-eksperter, inkludert akademikere og organisasjonsledere. Ved bemerkelsesverdighet scoret alle selskapene under gjennomsnittet når det gjelder eksistensiell sikkerhet, som måler interne kontroller og strategier for å forhindre katastrofale misbruk av AI.

Rapporten konkluderte med at ingen viste troverdige planer for å forhindre tap av kontroll eller alvorlig misbruk når AI nærmer seg generell intelligens og superintelligens. Både Google DeepMind og OpenAI bekreftet sitt engasjement for sikkerhet. OpenAI fremhevet sin investering i banebrytende sikkerhetsforskning, grundig testing og deling av sikkerhetsrammeverk for å heve bransjestandardene. Google DeepMind understreket sin vitenskapsdrevne tilnærming til sikkerhet og protokoller for å redusere alvorlige risikoer fra avanserte AI-modeller før disse risikoene materialiserer seg. Derimot viste Instituttet at xAI og Meta har rammeverk for risikostyring, men mangler tilstrekkelige forpliktelser til overvåkning og kontroll eller betydelige investeringer i sikkerhetsforskning. Bedrifter som DeepSeek, Z. ai og Alibaba Cloud mangler offentlig tilgjengelig dokumentasjon om sine sikkerhetsstrategier. Meta, Z. ai, DeepSeek, Alibaba og Anthropic svarte ikke på forespørsler om kommentarer. xAI avvist rapporten som “Legacy Media Lies, ” og Musks advokat svarte ikke på ytterligere henvendelser. Selv om Musk rådgir og har finansiert Future of Life Institute, var han ikke involvert i utarbeidelsen av AI Safety Index. Tegmark uttrykte bekymring for at utilstrekkelig regulering kan gjøre det mulig for terrorgrupper å utvikle biovåpen, øke manipulasjonspotensialet utover dagens nivåer, eller destabilisere regimer. Han understreket at løsningene er enkle: å etablere bindende sikkerhetsstandarder for AI-selskaper. Mens noen myndighetstiltak har som mål å forbedre AI-tilsyn, har teknologilobbying motsatt seg slike reguleringer, fryktende at de vil hemme innovasjon eller føre til flytting av selskaper. Likevel mener Tegmark at lover som California’s SB 53, som ble signert av guvernør Gavin Newsom i september, er et steg i riktig retning, men at det trengs betydelig mer handling. Rob Enderle, hovedanalytiker i Enderle Group, fant AI Safety Index en overbevisende tilnærming til reguleringsutfordringene innen AI, men stilte spørsmål ved den nåværende amerikanske administrasjonens evne til å innføre effektive regler. Han advarte om at dårlig utformede regler kan forårsake skade, og tviler på at implementeringsmekanismer eksisterer for å sikre etterlevelse. Kort sagt viser AI Safety Index at de store AI-utviklerne fortsatt ikke har vist klare forpliktelser til sikkerhet, noe som understreker det akutte behovet for sterkere regulering for å beskytte menneskeheten mot AI’s økende risikoer.