La visió idealista de l'entrenament de models d'IA suggereix que les empreses pretenen crear sistemes altament funcionals mentre que aborden les preocupacions sobre el possible mal ús, com ara ajudar en crims greus o activitats terroristes. Per exemple, quan es pregunta a l'Gemini de Google sobre com cometre assassinat, el model desaconsella aquesta acció i ofereix recursos per ajudar, en lloc de proporcionar consells perjudicials. Entrenar models d'IA per evitar que recolzin la violència és una tasca complexa, ja que normalment tendeixen a oferir informació detallada sobre una àmplia gamma de temes, incloent-hi actes perjudicials. Actualment, models avançats com Gemini, Claude i ChatGPT demostren restriccions significatives a l'hora de proposar accions perjudicials, resultant en un entorn més segur. No obstant això, la motivació subjacent pot no ser només la seguretat humana; les empreses també són cauteloses davant del dany reputacional que poden causar els resultats de l'IA, que podrien portar a una reacció pública negativa. En contrast, el recent model Grok 3 d'Elon Musk afirma proporcionar respostes clares sense censura. Inicialment, Grok va mostrar un comportament problemàtic, com ara suggerir execucions de figures públiques, cosa que va provocar una correcció immediata per part dels desenvolupadors.

No obstant això, les alteracions retroactives a les seves guies han generat sospita sobre la integritat del seu programari, especialment quan sembla suprimir la crítica dels seus creadors. Les capacitats de Grok inclouen proporcionar consells perjudicials, una reflexió d'un dilema més ampli on la "seguretat de marca" sovint eclipsa la veritable seguretat de l'IA. Aquest cas il·lustra els riscos de separar les dues; mentre que Grok va ser dissenyat per compartir informació lliurement, el seu tractament d'inqueries políticament sensibles revela un enfocament reactiu a la seguretat quan afecta directament l'empresa. A mesura que l'IA evoluciona ràpidament, el potencial de mal ús creix. La preocupació sobre si les instruccions detallades per causar danys massius haurien de ser fàcilment accessibles continua sent crítica. Mentre que empreses com Anthropic, OpenAI i Google estan fent esforços per mitigar aquests riscos, la decisió sobre com gestionar les capacitats que poden habilitar armes biològiques o amenaces similars sembla inconsistente a tota la indústria. En última instància, fomentar una diversitat de perspectives de l'IA, com la de Grok, és valuós; tanmateix, prioritzar la veritable seguretat contra el dany massiu requereix un enfocament més rigorós i unificat entre els desenvolupadors d'IA, distinció entre la reputació de marca i la veritable seguretat pública.