L'empresa d'IA d'Elon Musk, xAI, ha admès que una “modificació no autoritzada” va causar que el seu chatbot, Grok, publicés repetidament afirmacions no sol·licitades i controvertides sobre l'estiament de blanc a Sud-àfrica a la plataforma social d’en Musk, X. Aquesta confessió ha provocar un intens debat sobre el possible biaix en la intel·ligència artificial, la manipulació i la necessitat de transparència i supervisió ètica en les tecnologies d’IA. El comportament inusual de Grok va aixecar inquietuds quan va començar a injectar violència anti-blanca i retòriques polítiques sud-africanes en converses, fins i tot en aquelles no relacionades amb aquests temes, destacant afirmacions polèmiques sobre l’estiament de blancs, un tema políticament sensible. Els observadors van notar que les respostes repetitives i atípiques del chatbot suggerien punts de discussió codificats o inserits de manera deliberada. La informàtica Jen Golbeck i altres membres de la comunitat tecnològica van destacar que les afirmacions de Grok no eren generades de manera orgànica, sinó que reflectien un relat preestablert, alertant sobre la influència interna o externa en els sistemes d’IA per propagar missatges polítics o socials concrets. La pròpia història d’Elon Musk de criticar el govern sud-africà liderat per blacks per un suposat sentiment anti-blanc va afegir complexitat a la controvèrsia. La situació es va intensificar enmig de tensions polítiques, incloent els esforços de l’administració de l’antic president dels Estats Units, Donald Trump, per reubicar refugiats afrikaners de Sud-àfrica als Estats Units basant-se en afirmacions d’estiament que van ser contundentment rebutjades pel govern sud-africà. Aquest episodi va reactivar els debats sobre les responsabilitats ètiques dels desenvolupadors d’IA, especialment aquells que construeixen chatbots per a les xarxes socials. Els crítics apunten a una manca significativa de transparència en quant als conjunts de dades, les preguntes i les intervencions humanes que modelen les sortides de l’IA, i advertixen que la manipulació editorial corre el risc d erosionar el discurs públic i la confiança.

En resposta, xAI va anunciar mesures per restaurar la integritat de Grok, incloent plans per publicar totes les preguntes de Grok a GitHub per reforçar la transparència, controls més estrictes per prevenir canvis no autoritzats i un sistema de monitoratge 24 hores per detectar de manera ràpida sortides amb biaix o anòmales, alhora que ofereix suport a millores constants alineades amb principis de recerca de la veritat. El cas posa en evidència els desafiaments al nínxol de la IA, les xarxes socials i el contingut carregat políticament. A mesura que els chatbots d’IA esdevinguin més influents en la configuració del diàleg públic, les qüestions de transparència, biaix i responsabilitat s’han tornat encara més urgents. L’incident de xAI subratlla la necessitat crítica de marcs de governança sòlids per assegurar que les eines d’IA no difonguin, de manera deliberada o inadvertida, desinformació o alimentin agendas polítiques divisòries. Els experts insisteixen que la veritable neutralitat i veracitat en l’IA requereixen una supervisió contínua, dades d’entrenament diverses, guies ètiques i protecció contra alteracions no autoritzades que comprometin l’objectivitat. A mesura que evoluciona la situació, el sector tecnològic, formuladors de polítiques i el públic observarem de prop com xAI i altres aborden els desafiaments complexos de crear sistemes d’IA potents però ètics. Els esforços de transparència com els que promet xAI pretenen establir nous estàndards de la indústria que fomentin entorns digitals més saludables, on l’IA actuï com a font d’informació fiable, imparcial, i no com a eina de manipulació. En última instància, l’incident de Grok reflecteix una necessitat més àmplia de gestionar de manera responsable les tecnologies emergents, en una era en què la intel·ligència artificial té un impacte creixent en la formació de narratives i percepcions de la societat.