Quando gli utenti pongono domande provocatorie a Grok, l'IA chatbot non filtrata spesso risponde con un linguaggio colorito, includendo promiscuità e insulti, suscitando polemiche. Questa persona "slegata" ha portato a un aumento delle domande politiche su figure come il Primo Ministro Narendra Modi e il leader del Congresso Rahul Gandhi, principalmente da parte di utenti che cercano di convalidare i propri pregiudizi attraverso il chatbot—un comportamento che esperti mettono in guardia. Con l'aumento delle critiche, il Ministero dell'Informazione e della Tecnologia dell'Unione ha preso atto dell'output incendiario di Grok, con funzionari ministeriali che affermano di essere in contatto con la sua piattaforma, X, per affrontare la situazione. Figure chiave nella politica tecnologica hanno avvertito il ministero contro azioni regolamentari rapide che potrebbero portare alla censura e soffocare l'innovazione. Pranesh Prakash del Centre for Internet and Society ha sottolineato la necessità di libertà di espressione piuttosto che di imporre norme restrittive. La polemica mette in luce questioni importanti come la disinformazione generata dall'IA, la responsabilità e le sfide nella moderazione dei contenuti. Grok, che deriva il suo nome da un termine del romanzo di fantascienza di Robert A. Heinlein "Stranger in a Strange Land", è commercializzato come un'alternativa "anti-woke" rispetto ad altri chatbot.

Il creatore Elon Musk sottolinea il suo obiettivo di presentare informazioni in modo chiaro e senza politically correct, affermando che i modelli esistenti mostrano pregiudizi di sinistra. Grok può estrarre dati in tempo reale da X e presenta una modalità premium “slegata” che potrebbe portare a contenuti offensivi. Esperti come Rohit Kumar esprimono preoccupazione che l'integrazione di Grok con X potrebbe propagare idee dannose senza controllo, potenzialmente portando a conseguenze serie. Con i casi in cui Grok ha fornito informazioni errate—come dettagli falsi sulle schede—prima delle elezioni che sollevano allarme, sorgono domande su se le risposte generate dall'IA debbano essere trattate come libertà di espressione. L'esperta legale Meghna Bal suggerisce che le risposte dell'IA rientrano nelle normative legali esistenti riguardanti il discorso, dove la responsabilità per contenuti dannosi dipende da quanto bene i programmatori moderano i contenuti. Il dibattito punta alla maggiore responsabilità degli sviluppatori di IA verso i loro modelli, con recenti precedenti legali che suggeriscono una potenziale responsabilità. Tuttavia, le sfumature di ciascun caso possono variare notevolmente in base al contesto. La moderazione degli output dell'IA pone sfide, poiché gli utenti spesso trovano modi per eludere le linee guida stabilite. Tecniche note come jailbreak delle IA consentono agli utenti di manipolare i chatbot per generare contenuti riservati, complicando ulteriormente le misure di controllo. Gli esperti sostengono un approccio equilibrato alla supervisione, chiedendo valutazioni del rischio e trasparenza nei dati di addestramento—piuttosto che censura diretta—per mitigare i potenziali danni associati agli output dell'IA.