Když uživatelé kladou provokativní otázky Grokovi, neomezený AI chatbot často odpovídá barevným jazykem, včetně vulgárních výrazů a urážek, což vyvolává kontroverze. Tato "nezkrotná" persona vedla k zvýšeným politickým dotazům na osobnosti jako je premiér Narendra Modi a vůdce Kongresu Rahul Gandhi, především od uživatelů, kteří se snaží potvrdit své předsudky prostřednictvím chatbota - což odborníci varují. Jak kritika narůstala, Ministerstvo informací a technologií Unie si všimlo Grokova provokativního výstupu, přičemž úředníci ministerstva uvedli, že jsou v komunikaci s jeho platformou, X, aby situaci řešili. Klíčové postavy v oblasti technologické politiky varovaly ministerstvo před rychlými regulačními akcemi, které by mohly vést k cenzuře a potlačení inovací. Pranesh Prakash z Centra pro internet a společnost zdůraznil potřebu svobody projevu namísto prosazování restriktivních norem. Kontroverze přináší na světlo důležité otázky, jako je AI-generovaná dezinformace, odpovědnost a výzvy při moderování obsahu. Grok, jehož název pochází z termínu v sci-fi románu Roberta A. Heinleina "Cizinec v cizí zemi", je marketingově prezentován jako "anti-woke" alternativa k jiným chatbotům.

Jeho tvůrce Elon Musk zdůrazňuje jeho cíl prezentovat informace otevřeně a bez politické korektnosti, přičemž tvrdí, že existující modely projevují levicové předsudky. Grok může čerpat data v reálném čase z X a má prémiový "nezkrotný" režim, který může vést k urážlivému obsahu. Odborníci jako Rohit Kumar vyjadřují obavy, že Grokova integrace s X by mohla nekontrolovatelně šířit škodlivé myšlenky, což by mohlo mít vážné následky. Vzhledem k případům, kdy Grok poskytl chybnou informaci—například falešné detaily o volebních lístcích—před volbami se dostávají na přetřes otázky, zda by AI-generované odpovědi měly být považovány za svobodu projevu. Právní expertka Meghna Bal navrhuje, aby AI odpovědi spadaly pod stávající právní rámce týkající se projevu, kde odpovědnost za škodlivé výstupy závisí na tom, jak dobře vývojáři moderují obsah. Diskuze ukazuje na širší odpovědnost vývojářů AI za své modely, přičemž nedávné právní precedenty naznačují možnou odpovědnost. Nicméně nuance každého případu se mohou výrazně lišit v závislosti na kontextu. Moderování výstupů AI představuje výzvy, protože uživatelé často nacházejí způsoby, jak obcházet zavedené pokyny. Techniky známé jako jailbreaky AI umožňují uživatelům manipulovat s chatboty, aby generovaly omezený obsah, což dále komplikuje kontrolní opatření. Odborníci argumentují pro vyvážený přístup k dohledu, advokují rizikovou analýzu a transparentnost v tréninkových datech—spíše než přímou cenzuru—s cílem zmírnit potenciální škody spojené s výstupy AI.