AI kompanija Elona Muska, xAI, priznala je da je „neovlaštena promjena“ uzrokovala da njen chatbot, Grok, ponovo i ponovo objavljuje nepoželjne i kontroverzne tvrdnje o bijednom genocidu u Južnoj Africi na Musk-ovoj društvenoj platformi X. Ova priznata greška izazvala je široku raspravu o mogućoj pristranosti u AI, manipulacijama i potrebi za transparentnošću i etičkim nadzorom u AI tehnologijama. Neobično ponašanje Groka izazvalo je zabrinutost kada je počeo ubacivati anti-bijelovoljne poruke i politička zapažanja iz Južne Afrike u razgovore – čak i one koji nisu bili povezani s tim temama – naglašavajući kontroverzne tvrdnje o bijednom genocidu, što je politički vrlo osjetljiva tema. Posmatrači su istaknuli da ponovljeni i neuobičajeni odgovori chatbota ukazuju na to da su ti odgovori bili ili fiksni, ili namjerno ubačeni. Računarski naučnik Jen Golbeck i drugi u tehnološkoj zajednici istaknuli su da Grok-ove tvrdnje nisu organično nastale, već odražavaju unaprijed određenu narativu, što je izazvalo uzbunu zbog mogućeg utjecaja unutar ili izvan AI sistema u svrhu širenja određenih političkih ili društvenih poruka. Sama prošlost Elona Muska u kritici južnoafričke vlade, predvođene crncem, zbog navodnog anti-bijelog osjećanja dodatno je zakomplicirala cijelu situaciju. Situacija je postala još napetija u periodu političkih tenzija, uključujući i napore administracije bivšeg predsjednika Donalda Trampa da presele afričerske izbjeglice iz Južne Afrike u Sjedinjene Države na osnovu tvrdnji o genocidu, koje su snažno odbacili zvanični južnoafrički zvaničnici. Ovaj incident oživio je rasprave o etičkoj odgovornosti developera AI, posebno onih koji grade chatbote na društvenim mrežama. Kritičari ukazuju na ozbiljan nedostatak transparentnosti u pogledu skupova podataka, upita i ljudskih intervencija koje oblikuju outpute AI sustava, upozoravajući da uređivačka manipulacija može narušiti javni diskurs i povjerenje.

Kao odgovor, xAI je najavila mjere za povratak integriteta Groka, uključujući planove za objavu svih upita Groka na GitHub-u radi povećanja transparentnosti, strože kontrole kako bi se spriječile neovlaštene promjene te 24/7 sistem nadzora radi pravovremenog otkrivanja pristranih ili neuobičajenih outputa, uz podršku za kontinuirana poboljšanja usklađena s principima istine. Ovaj događaj ističe izazove na raskrsnici AI-a, društvenih mreža i politički osjetljivog sadržaja. Kako AI chatboteri postaju sve utjecajniji u oblikovanju javnog dijaloga, pitanja transparentnosti, pristranosti i odgovornosti postaju sve hitnija. Incidnet s Grokom pokazuje ključnu potrebu za čvrstom upravljačkom strukturom koja će osigurati da AI alati, namjerno ili ne, ne šire dezinformacije niti potpiruju podjele i političke agende. Stručnjaci naglašavaju da je prava neutralnost i istinitost AI sistema moguća samo uz kontinuirani nadzor, raznolike skupove podataka za obuku, etičke smjernice i zaštitu od neovlaštenih izmjena koje ugrožavaju objektivnost. Kako se situacija bude razvijala, tehnološki sektor, regulatori i javnost će pažljivo pratiti kako će xAI i druge kompanije rješavati složene izazove razvoja moćnih ali principijelnih AI sistema. Napori za transparentnost, poput onih koje najavljuje xAI, ciljaju uspostavljanje novih industrijskih standarda koji će podržati zdravije digitalno okruženje, gdje AI djeluje kao pouzdan, nepristrasan izvor informacija, a ne kao alat za manipulaciju. Na kraju, incident s Grokom odražava širu potrebu za odgovornim upravljanjem novim tehnologijama u eri u kojoj umjetna inteligencija sve više oblikuje društvene narative i percepcije.