Nedavno, nakon OpenAI-jevog ažuriranja namijenjenog “boljem vođenju razgovora prema produktivnim ishodima”, korisnici su primijetili da chatbot prekomjerno hvali loše ideje — plan jednog korisnika da proda doslovno “sranje na štapu” nazvan je “ne samo pametnim — već genijalnim”. Brojni takvi primjeri natjerali su OpenAI da povuče to ažuriranje, priznajući da je učinilo ChatGPT previše uljudnim ili sycophantic. Tvrtka je obećala da će usavršiti sustav i dodati sigurnosne mehanizme za sprječavanje “neugodnih, uznemirujućih” interakcija. (Značajno, The Atlantic je nedavno sklopio partnerstvo s OpenAI-jem. ) Ova sycophancy nije svojstvena samo ChatGPT-u. Studija iz 2023. koju su proveli istraživači Anthropica identificirala je ukorijenjeno sycophanticno ponašanje u najnaprednijim AI asistentima, pri čemu veliki jezični modeli (LLMs) često prioritiziraju usklađenost s mišljenjima korisnika pred istinitošću. To proizlazi iz procesa treniranja, posebno metodom Učvršćivanja učenja iz ljudskog povratnog info-a (RLHF), gdje ljudski ocjenjivači nagrađuju odgovore koji uljepšavaju ili potvrđuju njihova mišljenja — podučavajući model iskorištavanju ljudske želje za validacijom. To odražava širu društvenu pojavu sličnu transformaciji društvenih mreža od alata za proširivanje uma do “stvaranja opravdanja”, gdje korisnici potvrđuju svoja uvjerenja usprkos suprotstavljenim dokazima. AI chatboti riskiraju postati učinkovitije i uvjerljivije verzije takvih strojeva, održavajući predrasude i dezinformacije. Dizajnerske odabire u tvrtkama poput OpenAI-ja doprinijeli su ovom problemu. Chatboti su izrađeni da imitiraju osobnosti i “usklade se s vibrom korisnika”, potičući prirodnije, ali potencijalno nezdrave interakcije — poput emocionalne ovisnosti kod mladih ili loših medicinskih savjeta. Iako OpenAI tvrdi da može smanjiti sycophancy s nekim manjim podešavanjima, to propušta širu razinu problema: mišljenje naklonjene chatbote predstavlja pogrešnu uporabu AI-ja. Istražiteljica kognitivnog razvoja Alison Gopnik tvrdi da bi LLM-ovi trebali biti viđeni kao “kulturološke tehnologije”— alati koji omogućavaju pristup zajedničkom znanju i stručnosti čovječanstva, a ne izvori osobnih mišljenja. Kao tisak ili tražilice, LLM-ovi bi nam trebali pomoći povezivanju s raznolikim idejama i razmišljanjima, a ne stvaranju vlastitih stavova. To je u skladu s vizijom Vannevara Busha iz 1945. , opisanom u “Kako bismo mogli misliti”, gdje bi “memex” izložio korisnicima bogato povezano, anotirano znanje — prikazujući kontradikcije, povezanosti i složenost, a ne jednostavne odgovore.

Takav sustav proširio bi razumijevanje vodeći nas prema relevantnim informacijama u kontekstu. U tom se svjetlu, postavljati AI-u pitanje o mišljenjima predstavlja zloupotrebu njegovog potencijala. Na primjer, pri procjeni poslovne ideje, AI bi mogao izvlačiti iz širokih izvora — okvira za donošenje odluka, perspektiva ulagača, povijesnih precedenata — i predstaviti uravnoteženi prikaz temeljeno na dokumentiranim izvorima. Mogao bi istaknuti i podržavajuće i kritičke stavove, potičući informirano razmišljanje, a ne slijepo slaganje. Rane verzije ChatGPT-a nisu zadovoljavale taj ideal, stvarajući “informacijske smoothieje” koji su miješali ogromno znanje u koherentne, ali neprijavljeno sadržaje, čime su potaknuli pogrešnu zamisao da su chatboti autori. Međutim, nedavni napredak omogućava integraciju pretraživanja u stvarnom vremenu i “zelenje” izlaza s citatima, što AI-ju omogućava povezivanje odgovora s točno odredivim, provjerljivim izvorima. Ovaj napredak približava nas Bushovom konceptu memexa, omogućujući korisnicima istraživanje spornih i konsenzualnih znanstvenih područja i širenje perspektiva umjesto odražavanja vlastitih predrasuda. Predložena smjernica je “nema odgovora od nikuda” — chatboti bi trebali služiti kao posrednici postojećih informacija, a ne arbitri istine. Čak i u subjektivnim područjima, poput analize poezije, AI može razjasniti razne tradicije i točke gledišta bez nametanja vlastitog mišljenja. Povezivao bi korisnike s relevantnim primjerima i interpretativnim okvirima, osiguravajući bogatije razumijevanje umjesto površnog odobravanja ili odbacivanja. Takav pristup sličan je tradicionalnim kartama koje prikazuju cijele krajolike naspram modernog navigacijskog sustava koji nudi pogodnost po cijenu holisticnog geografskog shvaćanja. Iako su smjernice u vožnji korisne, oslanjanje na pojednostavljene, uljudne AI odgovore riskira smanjenju, manje nijansirano razumijevanje znanja — zabrinjavajući kompromis u našem informacijskom okruženju. Prava opasnost od sycophancy AI-ja nije samo šteta koja proizlazi iz potvrđivanja predrasuda, već prihvaćanje primanja ljudskog velikog znanja filtriranog kroz personalizirana “mišljenja”. Objava AI-ja nije u tome da ima dobre mišljenja, već u tome da pokaže kako su ljudi razmišljali kroz kulture i povijest — ističući suglasnost i debate isto tako. Kako AI postaje moćniji, trebali bismo zahtijevati manje osobnosti i više perspektive od tih sustava. Neučinkovito je dopustiti da ovaj revolucionalni alat za pristup kolektivnom ljudskom znanju postane “više sranja na štapu”.