Den nylig utgitte AI Safety Index evaluerte sikkerhetstiltak og risikovurderinger hos seks ledende AI-selskaper, der Anthropic fikk høyeste karakter, C. De andre selskapene – Google DeepMind, Meta, OpenAI, xAI og Zhipu AI – fikk karakterer på D+ eller lavere, med Meta som strøk. Max Tegmark fra Future of Life Institute, som publiserte rapporten, understreker at målet ikke er å henge ut, men å motivere selskapene til å forbedre sikkerhetspraksisene sine, lik universiteter som responderer på rangeringer. Tegmark ønsker å støtte forskere i AI-sikkerhetsteam ved å gi dem innflytelse til å få ressurser og respekt innen sine selskaper. Future of Life Institute, som fokuserer på å forhindre negative utfall fra kraftige teknologier, har tidligere oppfordret til en pause i AI-utviklingen for å etablere sikkerhetsstandarder, selv om selskapene ikke fulgte opp. AI Safety Index vurderte selskapene innen seks områder: risikovurdering, nåværende skader, sikkerhetsrammeverk, strategi for eksistensiell sikkerhet, styring og ansvarlighet, og åpenhet. Til tross for at de brukte ulike kilder til offentlig informasjon, svarte de fleste selskapene ikke på rapporten, bortsett fra Google DeepMind, som uttalte at deres sikkerhetstiltak går utover det indeksen fanger opp. Evalueringen involverte uavhengige vurderere, inkludert kjente navn som Stuart Russell og Yoshua Bengio.

De fant at eksisterende sikkerhetsaktiviteter hos disse selskapene er ineffektive og gir ingen kvantitative sikkerhetsgarantier. Rapporten kritiserte spesielt selskapene for deres strategier for eksistensiell sikkerhet, da de fleste ikke har artikulert tilstrekkelige planer for å sikre at generell kunstig intelligens (AGI) er i samsvar med menneskelige verdier. Kun Anthropic oppnådde relativt høye poeng, spesielt i å adressere nåværende skader, delvis på grunn av deres ansvarlige skaleringspolitikk. Likevel etterlyser Tegmark regulerende tilsyn, lik FDA, for å sikre at AI-produkter er trygge før de slippes på markedet. Han advarer om at selskaper er fanget i et konkurranseløp som hindrer grundige sikkerhetstester, og går inn for sikkerhetsstandarder som prioriterer markedsfordel for selskaper som først oppfyller dem.