Неодамна објавениот Индекс за безбедност на вештачка интелигенција ги оцени шесте водечки компании во областа на вештачката интелигенција според нивните безбедносни мерки и проценки за ризик, при што Anthropic ја доби највисоката оценка C. Другите компании—Google DeepMind, Meta, OpenAI, xAI и Zhipu AI—добија оценки D+ или пониски, при што Meta во целосност не успеа. Макс Тегмарк од Институтот за иднината на животот, кој го објави извештајот, потенцира дека целта не е засрамувањето, туку мотивирање на компаниите да ги подобрат своите безбедносни пракси, слично на тоа како универзитетите реагираат на рангирања. Тегмарк има за цел да ги поддржи истражувачите во тимовите за безбедност на вештачка интелигенција со тоа што им дава основа за да добијат ресурси и почит во рамките на нивните компании. Институтот за иднината на животот, кој е насочен кон спречување на негативни исходи од моќните технологии, претходно побара пауза во развојот на вештачка интелигенција за да се воспостават безбедносни стандарди, иако компаниите не се усогласија. Индексот за безбедност на вештачка интелигенција ги оцени компаниите во шест области: проценка на ризик, тековни штети, безбедносни рамки, стратегија за егзистенцијална безбедност, управување и одговорност, и транспарентност. Иако користеше различни извори на јавни информации, повеќето компании не одговорија на извештајот, освен Google DeepMind, која изјави дека нивните безбедносни мерки опфаќаат повеќе отколку што индексот бележи. Евалуацијата вклучуваше независни рецензенти, меѓу кои познати фигури како што се Стјуарт Расел и Јошуа Бенџио.

Тие забележаа дека постоечките безбедносни активности во овие компании се неефикасни и не обезбедуваат квантитативни гаранции за безбедност. Извештајот особено ги критикува компаниите за нивните стратегии за егзистенцијална безбедност, бидејќи повеќето немаат соодветно формулирани планови за осигурување дека општата вештачка интелигенција (AGI) ќе е во согласност со човековите вредности. Само Anthropic доби релативно високи оценки, особено за справувањето со тековните штети, делумно поради нивната политика за одговорно скалирање. Сепак, Тегмарк повикува на регулаторен надзор сличен на FDA за да се осигури дека производите од вештачка интелигенција се безбедни пред да се пуштат на пазарот. Тој предупредува дека компаниите се заглавени во конкурентна трка што го попречува темелното тестирање на безбедноста, и се залага за безбедносни стандарди кои ќе им дадат пазарна предност на компаниите кои први ќе ги достигнат.