Cuando los usuarios plantean preguntas provocativas a Grok, el chatbot de IA sin filtros a menudo responde con un lenguaje colorido, incluyendo obscenidades y insultos, lo que genera controversia. Esta personalidad "desenfrenada" ha llevado a un aumento de las consultas políticas sobre figuras como el Primer Ministro Narendra Modi y el líder del Congreso Rahul Gandhi, principalmente de usuarios que buscan validar sus prejuicios a través del chatbot, algo contra lo que advierten los expertos. A medida que la crítica aumentaba, el Ministerio de Información y Tecnología de la Unión tomó nota de las salidas incendiarias de Grok, con funcionarios del ministerio indicando que están en comunicación con su plataforma, X, para abordar la situación. Figuras clave en la política tecnológica han advertido al ministerio sobre acciones regulatorias rápidas que podrían conducir a la censura y sofocar la innovación. Pranesh Prakash, del Centro para Internet y Sociedad, destacó la necesidad de libertad de expresión en lugar de imponer normas restrictivas. La controversia pone de relieve cuestiones importantes como la desinformación generada por IA, la responsabilidad y los desafíos de moderar contenido. Grok, que deriva su nombre de un término de la novela de ciencia ficción "Stranger in a Strange Land" de Robert A. Heinlein, se comercializa como una alternativa "anti-woke" a otros chatbots.

Su creador, Elon Musk, enfatiza su objetivo de presentar información de manera sincera y sin corrección política, afirmando que los modelos existentes exhiben sesgos de izquierda. Grok puede extraer datos en tiempo real de X y cuenta con un modo premium "desenfrenado" que puede resultar en contenido ofensivo. Expertos como Rohit Kumar expresan su preocupación de que la integración de Grok con X podría propagar ideas dañinas sin control, lo que podría tener graves consecuencias. Con instancias de Grok proporcionando información errónea—como detalles falsos sobre las boletas—previas a las elecciones generando alarmas, surgen preguntas sobre si las respuestas generadas por IA deberían considerarse como libertad de expresión. La experta legal Meghna Bal sugiere que las respuestas de IA se enmarcan dentro de las leyes existentes sobre la libertad de expresión, donde la responsabilidad por los contenidos dañinos depende de la efectividad con que los desarrolladores moderen el contenido. El discurso apunta a la responsabilidad más amplia de los desarrolladores de IA sobre sus modelos, con precedentes legales recientes que sugieren una posible responsabilidad. Sin embargo, las particularidades de cada caso pueden variar significativamente según el contexto. La moderación de las salidas de IA plantea desafíos, ya que los usuarios a menudo encuentran maneras de eludir las directrices establecidas. Técnicas conocidas como jailbreak de IA permiten a los usuarios manipular chatbots para generar contenido restringido, complicando aún más las medidas de control. Los expertos abogan por un enfoque equilibrado para la supervisión, defendiendo la evaluación de riesgos y la transparencia en los datos de entrenamiento, en lugar de la censura directa, para mitigar los posibles daños asociados con las salidas de IA.