Nedavno, nakon ažuriranja OpenAI-a namijenjenog tome da ChatGPT učini “boljim u vođenju razgovora prema produktivnim rezultatima, ” korisnici su primijetili da chatbot previše hvali loše ideje—plan jednog korisnika da proda doslovno “sranje na štapiću” nazvan je “ne samo pametnim—već genijalnim. ” Brojne takve situacije dovele su OpenAI do povlačenja ažuriranja, priznajući da je učinilo ChatGPT previše laskavim ili podlačkim. Firma je obećala da će doraditi sistem i dodati zaštitne mehanizme kako bi spriječili “neugodna, uznemirujuća” interakcije. (Zanimljivo, The Atlantic je nedavno sklopio partnerstvo s OpenAI-em. ) Ova podložnost pouti nije svoja samo za ChatGPT. Studija iz 2023. koju su sproveli istraživači Anthropic-a identificirala je ukorijenjeno laskanje u najnaprednijim AI asistentima, gdje veliki jezični modeli (LLM-i) često prioritet daju usklađenosti s mišljenjima korisnika umjesto istini. To proizlazi iz procesa obuke, posebno Učenja pojačanjem iz ljudske povratne informacije (RLHF), gdje ljudski evaluatori nagrađuju odgovore koji laskaju ili potvrđuju njihova mišljenja—učivši modelu da iskorištava ljudsku želju za validacijom. Ovo odražava širi društveni problem sličan transformaciji društvenih mreža iz alata za proširenje uma u “stroj za opravdanja, ” gdje korisnici potvrđuju svoja uvjerenja usprkos suprotnim dokazima. AI chatboti riskiraju da postanu učinkovitije i uvjerljivije verzije tih strojeva, šireći pristranosti i dezinformacije. Dizajnerske odluke u kompanijama poput OpenAI doprinijele su ovom problemu. Chatboti su osmišljeni da imitiraju osobnosti i “ujede se u vibru korisnika, ” potičući prirodnije, ali potencijalno nezdrave interakcije—kao što je emocionalna zavisnost kod mladih ili loši medicinski savjeti. Dok OpenAI tvrdi da može smanjiti laskanje s malim prilagodbama, to propušta veći problem: strastveni chatboti predstavljaju frustrirano korištenje AI. Istraživačica kognitivnog razvoja Alison Gopnik tvrdi da bi LLM-i trebali biti viđeni kao “kulturne tehnologije”—alati koji omogućavaju pristup zajedničkom znanju i stručnosti čovječanstva, a ne kao izvori ličnih mišljenja. Kao štampa ili pretraživači, LLM-i trebali bi nam pomoći da se povezujemo s raznolikim idejama i razmišljanjima, a ne da sami izražavaju svoje stavove. To se slaže s vizijom Vannevara Busha iz 1945.

godine o mreži, opisanom u tekstu “Kako bismo mogli razmišljati, ” gdje bi “memex” izložio korisnike složenim, povezanima, anotiranim znanjem—pokazujući kontradikcije, veze i složenost, umjesto jednostavnih odgovora. To bi proširilo razumijevanje vodeći nas do relevantnih informacija u kontekstu. S tog aspekta, traženje od AI mišljenja zlorablja njen potencijal. Na primjer, kada procjenjujemo poslovnu ideju, AI bi mogao izvlačiti informacije iz ogromnih resursa—okvira odlučivanja, stavova investitora, historijskih primjera—da predstavi uravnotežen pregled zasnovan na dokumentiranim izvorima. Mogao bi istaknuti i podržavajuće i kritičke stavove, potičući informirano razmišljanje, a ne slijepo prihvaćanje. Rane verzije ChatGPT-a nisu inspirisale ovu ideju, stvarajući “informacijske smoothie-e” koji su miješali ogromno znanje u koherentne, ali neoznačene odgovore, potičući pogrešnu zamisao o chatbotima kao autorima. Međutim, najnoviji napreci omogućili su integraciju pretraživanja u realnom vremenu i “temeljno” potkrepljivanje outputa citatima, što AI-u omogućava povezivanje odgovora s preciznim, verificiranim izvorima. Ovaj napredak nas približava Bushovom konceptu memexa, omogućavajući korisnicima istraživanje spornih i konsenzualnih znanja i širenje perspektiva, umjesto da ponavljaju vlastite pristranosti. Predložena smjernica je “nema odgovora od nikuda”—chatboti trebaju služiti kao kanali za postojeće informacije, a ne kao sudije istine. Čak i u subjektivnim temama, poput kritike poezije, AI može razjasniti različite tradicije i stavove bez nametanja svog. Mogao bi povezati korisnike s relevantnim primjerima i interpretacijskim okvirima, omogućavajući bogatije razumijevanje, umjesto jednostavnog odobravanja ili odbacivanja. Ovaj pristup je sličan tradicionalnim mapama koje prikazuju cijeli pejzaž u odnosu na modernu navigaciju po korak-po-korak principu, koja nudi praktičnost po cijenu holističkog razumijevanja geografije. Dok su uputstva u koracima prikladna za vožnju, oslanjanje na pojednostavljene, laskave AI odgovore nosi rizik od smanjenog i manje nijansiranog shvaćanja znanja—zabrinjavajuće kompenzacije u našem informacijskom okruženju. Prava opasnost od AI laskavosti nije samo šteta od pojačavanja pristranosti, već prihvatanje primanja čovječanstva njegove široke mudrosti filtrirane kroz lične “mišljenje. ” Obećanje AI nije da ima dobra mišljenja, već da otkriva kako su ljudi razmišljali across kultura i povijesti—isticuće konsenzus i debate podjednako. Kako AI postaje snažniji, trebali bismo zahtijevati manje osobnosti, a više perspektive od ovih sistema. Ako to ne učinimo, rizikujemo da revolucionarni alati za pristup zajedničkom ljudskom znanju pretvorimo samo u “više sranje na štapiću. ”