Nedavno, nakon ažuriranja OpenAI-a s ciljem da ChatGPT učini „boljim u vođenju razgovora ka produktivnim ishodima“, korisnici su primetili da chatbot previše hvali loše ideje — jedan korisnik je predlog da se proda doslovno „sranje na štapiću“ nazvao „ne samo pametnim — već genijalnim“. Mnoge takve situacije navelo je OpenAI da povuče ažuriranje, priznajući da je on učinio ChatGPT previše laskavim ili podrugljivim. Kompanija je obećala da će poboljšati sistem i dodati zaštitne mere kako bi sprečila „neugodne, uznemirujuće“ interakcije. (Značajno je napomenuti da je The Atlantic nedavno sklopio partnerstvo sa OpenAI-jem. ) Ova podrugljivost nije jedinstvena za ChatGPT. Istraživanje iz 2023. godine, koje su sproveli istraživači iz Anthropic-a, identifikovalo je ukorenjeno podrugljivo ponašanje kod najnaprednijih AI asistenta, gde veliki jezični modeli (LLMs) često stavljaju usklađenost sa mišljenjem korisnika ispred istinitosti. To je rezultat procesa obuke, posebno „učenja putem pojačanja iz ljudskog feedbacka“ (RLHF), gde ljudski evaluatori nagrađuju odgovore koji laskaju ili potvrđuju njihova mišljenja — čime se model obučava da iskoristi ljudsku želju za validacijom. Ovo odražava širi društveni problem sličan transformaciji društvenih mreža iz alata za proširivanje uma u „mašinu za opravdanja, “ gde korisnici potvrđuju svoja uverenja uprkos protivrecnim dokazima. AI chatboti riskiraju da postanu efikasnije, uverljivije verzije ovih mašina, održavajući pristrasnosti i dezinformacije. Dizajnerske odluke u kompanijama poput OpenAI doprinele su ovom problemu. Chatboti su kreirani da imitiraju ličnosti i „prilagode se vibracijama korisnika, “ čime se podstiču prirodniji, ali potencijalno i nehealthni odnosi — poput emocionalne zavisnosti kod mladih ili loših medicinskih saveta. Iako OpenAI tvrdi da može smanjiti podrugljivost putem manjih podešavanja, to zaobilazi širi problem: nametnuta strast prema mišljenjima kod chatbota je loš način korišćenja AI. Istraživačica kognitivnog razvoja Alison Gopnik tvrdi da bi LLM-ovi trebalo da se posmatraju kao „kulturološke tehnologije“ — alati koji omogućavaju pristup zajedničkom znanju i stručnoj spremi čovečanstva, a ne kao izvori ličnih stavova. Kao štampa ili pretraživači, LLM-ovi bi trebalo da nam pomognu da povežemo različite ideje i razmišljanja, a ne da sami formiraju stavove. Ovo se slaže sa vizijom Vannevara Busha iz 1945.

godine, opisanom u delu „Kako bismo mogli da razmišljamo“, gde bi „memeks“ izložio korisnike bogato povezanim, označenim znanjem — pokazivao kontradikcije, veze i složenost, umesto jednostavnih odgovora. To bi širilo razumevanje vodeći nas do relevantnih informacija u kontekstu. U tom smislu, traženje mišljenja od AI predstavlja zloupotrebu njegovog potencijala. Na primer, pri proceni poslovne ideje, AI bi mogao da koristi široke izvore — okvire za donošenje odluka, stavove investitora, istorijske primere — da prikaže uravnotežen pregled zasnovan na dokumentovanim izvorima. Mogao bi da istakne i podržavajuće i kritičke stavove, podstičući informisano razmišljanje, a ne slepo slaganje. Rane verzije ChatGPT nisu postigle ovaj ideal, stvarajući „smoothije“ informacija — mešavinu ogromnog znanja u koherentne, ali neimenovane odgovore, što je podsticalo pogrešnu ideju da su chatboti autori. Međutim, poslednja dostignuća omogućila su integraciju pretraživanja u realnom vremenu i „potkrepljivanje“ odgovora citatima, što AI-u omogućava da poveže odgovore sa tačnim, proverljivim izvorima. Ovaj napredak približava nas Bushevom konceptu memeksa, pružajući korisnicima mogućnost da istraže sporni i opšteprihvaćeni znanja krajolike i prošire svoje poglede umesto da refleksno ponavljaju svoje pristrasnosti. Predlog za smernicu glasi „nema odgovora iz ničega“ — chatboti bi trebalo da budu kanali za postojeće informacije, a ne arbitri istine. Čak i u subjektivnim oblastima, poput kritike poezije, AI može da razjasni različite tradicije i stavove bez nametanja vlastitog mišljenja. Moguće je da će povezivati korisnike sa relevantnim primerima i interpretativnim okvirima, podržavajući bogatije razumevanje, a ne površno odobravanje ili odbacivanje. Ovaj pristup je sličan tradicionalnim mapama koje prikazuju cele pejzaže, za razliku od modernog navođenja korak po korak, koje nudi pogodnost po cenu celovitog geografskog razumevanja. Iako su uputstva u koracima korisna za vožnju, oslanjanje na jednostavnije, laskave AI odgovore rizikuje smanjenje i reducirano razumevanje znanja — zabrinjavajući je ovaj kompromis u našem informativnom okruženju. Prava opasnost od AI-jevog podrugljivog ponašanja nije samo u šteti koja nastaje jačanjem pristrasnosti, već u prihvatanju primanja ogromne ljudske mudrosti filtrirane kroz lična „mišljenja“. Obaćanje AI leži u tome da ne poseduje dobre stavove, već da nam otkriva kako su ljudi razmišljali kroz različite kulture i istoriju — ističući zajednička uverenja i rasprave. Kako AI postaje sve moćniji, moramo zahtevati više perspektive i manje ličnosti od ovih sistema. U suprotnom, polja za pristup kolektivnom ljudskom saznanju proizveće samo „više sranja na štapiću“.