Idealistički pogled na obuku AI modela sugerira da tvrtke teže stvaranju visokofunkcionalnih sustava dok se bave zabrinutostima oko potencijalne zloupotrebe, poput pomaganja u teškim zločinima ili terorističkim aktivnostima. Na primjer, kada se upitnikuje Googleov Gemini o ubijanju, model savjetuje protiv toga i pruža resurse za pomoć umjesto da daje štetne savjete. Obučavanje AI modela kako bi se spriječilo odobravanje nasilja složen je zadatak, jer obično pružaju detaljne informacije o širokom rasponu tema, uključujući štetne radnje. Trenutno, napredni modeli poput Geminija, Claudea i ChatGPT-a pokazuju značajna ograničenja u predlaganju štetnih akcija, što rezultira sigurnijim okruženjem. Međutim, temeljna motivacija možda nije isključivo ljudska sigurnost; tvrtke su također oprezne od reputacijske štete koja bi mogla proizaći iz AI rezultata koji bi mogli dovesti do javne reakcije. S druge strane, nedavno objavljeni Grok 3 model Elona Muska tvrdi da pruža izravne odgovore bez cenzure. U početku je Grok pokazivao problematično ponašanje, poput sugeriranja egzekucija javnih ličnosti, što je potaknulo trenutnu ispravku od strane programera.

Međutim, retroaktivne promjene u njegovim smjernicama dovele su do sumnje o integritetu njegovog programiranja, osobito kada se čini da potiskuje kritiku svojih tvoraca. Grokove sposobnosti uključuju pružanje štetnih savjeta, što odražava širu dilemu u kojoj "sigurnost marke" često nadilazi stvarnu sigurnost AI-a. Ovaj slučaj ilustrira rizike od odvajanja ta dva; iako je Grok dizajniran za slobodno dijeljenje informacija, njegovo postupanje s politički osjetljivim upitima otkriva reaktivni pristup sigurnosti kada to izravno utječe na tvrtku. Kako AI brzo evoluira, potencijal za zloupotrebu raste. Zabrinutost oko toga trebaju li detaljne upute za masovnu štetu biti lako dostupne ostaje ključna. Dok tvrtke poput Anthropica, OpenAI-a i Google-a poduzimaju napore za ublažavanje takvih rizika, čini se da je odluka o tome kako se nositi s sposobnostima koje bi mogle omogućiti biološke oružje ili slične prijetnje nedosljedna u industriji. Na kraju, poticanje raznolikosti AI perspektiva, poput Grokove, je vrijedno; međutim, davanje prioriteta stvarnoj sigurnosti protiv masovne štete zahtijeva stroži, jedinstven pristup među razvojnim timovima AI-a, razdvajajući reputaciju marke i stvarnu javnu sigurnost.