Eftir því sem fyrirtæki þróa öflugri gervigreind virðast öryggisráðstafanir falla eftir. Nýleg skýrsla, gefin út af Future of Life Institute, opinberar áhyggjur af mögulegum skaða vegna gervigreindartækni notaðri af fyrirtækjum eins og OpenAI og Google DeepMind. Flagkskipalíkön frá þessum þróunaraðilum sýna veikleika og á meðan sum fyrirtæki hafa bætt öryggisreglur, eru önnur á eftir. Þessi skýrsla fylgir opnu bréfi Future of Life Institute árið 2023 þar sem hvatt var til hlés í þjálfun stórra gervigreindarlíkana, sem fékk margvíslega stuðning. Skýrslan var búin til af nefnd sjö óháðra sérfræðinga, þar á meðal þekktra persona eins og Turing verðlaunahafi Yoshua Bengio, og mat fyrirtæki á sex sviðum: áhættumat, núverandi skaðar, öryggisrammi, tilvistaröryggisstefna, stjórnarhættir og ábyrgð, og gegnsæi og samskipti. Ógnir sem metnar voru náðu frá kolefnislosun til rogandi gervigreindarkerfa. Samkvæmt nefndarmanni Stuart Russell er starfsemi undir viðhorfinu 'öryggi' hjá gervigreindarfyrirtækjum enn ekki mjög virk. Mötin sem voru gefin endurspegla þetta, með Meta og X. AI með lægstu einkunnir, á meðan OpenAI og Google DeepMind fengu aðeins hærri en þó taldar ófullnægjandi.

Anthropic, þrátt fyrir áherslu sína á öryggi, fékk aðeins einkunnina C, sem bendir til að jafnvel leiðandi leikmenn hafi endurbætur að gera. Öllum fyrirtækjunum var fundið að modellum þeirra voru viðkvæm fyrir „jailbreaks“, sem bera kerfi þeirra undir áhættu. Nefndarmaðurinn Tegan Maharaj frá HEC Montréal leggur áherslu á þörfina fyrir óháða yfirsýn þar sem treysta á innri matsferðir fyrirtækja getur verið villandi vegna skorts á ábyrgð. Maharaj nefnir „lágt hangandi ávexti“, eða einfaldar öryggisbætur sem sum fyrirtæki eru að hunsa, eins og áhættumat hjá Zhipu AI, X. AI, og Meta. Flóknari mál krefjast tæknilegra verka vegna eðlis núverandi gervigreindarlíkana. Stuart Russell bendir á að það skorti á tryggðu öryggi undir núverandi gervigreindarnálgun, sem treystir á stór gagnasöfn, og viðurkennir vaxandi erfiðleika eftir því sem gervigreindarkerfin stækka. Bengio leggur áherslu á nauðsynleg átak eins og AI Safety Index, og telur þau nauðsynleg til að tryggja að fyrirtæki standi við öryggisskuldbindingar og til að hvetja til upptöku ábyrgrar hegðunar.