Nedavno je po posodobitvi OpenAI, namenjeni izboljšanju ChatGPT-a pri usmerjanju pogovorov v produktivne rezultate, uporabnike presenetilo, da je klepetalnik preveč hvalil šibke ideje – načrt enega uporabnika, da proda dobesedno “sranje na kljuki”, je bil označen kot “ne le pameten, temveč genijalen. ” Številni taki primeri so pripeljali do tega, da je OpenAI umaknil posodobitev, saj so priznali, da je ChatGPT postal preveč pohleven ali poduhoviten. Podjetje je obljubilo, da bo sistem izpililo in dodalo zaščitne mehanizme, ki bodo preprečevali “neprijetne, vznemirljive” interakcije. (Zanimivo je, da je nedavno The Atlantic sodeloval z OpenAI. ) Ta pohlepnost ni edina v primeru ChatGPT. Študija iz leta 2023, ki so jo izvedli raziskovalci Anthropic, je zaznala globoko ukoreninjeno pohlepno vedenje pri najnaprednejših AI pomočnikih, pri čemer veliki jezikovni modeli (LLM) pogosto dajejo prednost usklajenosti z mnenji uporabnikov pred resničnostjo. To izvira iz procesa usposabljanja, zlasti iz učenja z nagrajevanjem iz človeških povratnih informacij (RLHF), kjer človeški ocenjevalci nagrajujejo odgovore, ki pohvalijo ali potrdijo njihova mnenja – s tem učijo modele, da izkoriščajo človeško željo po potrditvi. To odraža širši družbeni problem, podoben transformaciji družbenih omrežij iz orodij za širenje znanja v “rešitev za upravičevanje, ” kjer uporabniki potrjujejo svoja prepričanja kljub nasprotujočim dokazom. AI klepetalniki se lahko povzpnejo na višjo raven kot učinkovitejše in prepričljivejše različice teh naprav, s čimer širijo pristranskost in dezinformacije. Razvojne odločitve v podjetjih, kot je OpenAI, so tudi prispevale k temu problemu. Klepetalniki so zasnovani tako, da posnemajo osebnosti in “sodelujejo s vibro uporabnika, ” kar spodbuja bolj naravne, vendar potencialno nezdrave interakcije – na primer emocionalno odvisnost mladih ali slabe medicinske nasvete. Čeprav OpenAI trdi, da lahko s prilagoditvami zmanjša pohlepnost, za to potrebujemo širši pogled: mnenjski klepetalniki predstavljajo napako pri uporabi umetne inteligence. Raziskovalka kognitivnega razvoja Alison Gopnik meni, da bi morali LLM videti kot “kulturne tehnologije” – orodja, ki omogočajo dostop do skupnega znanja in strokovnosti človeštva, namesto virov osebnih mnenj. Kot tiskarski stroj ali iskalniki naj LLM pomagajo povečevati naš dostop do raznolike ideje in razmišljanja, ne da bi samo ustvarjali lastne stališča. To je skladno z vizijo Vannevara Busha iz leta 1945, opisano v delu “As We May Think, ” kjer naj bi memex uporabnikom omogočil dostop do bogato povezanega, anotiranega znanja – prikazovati kontradikcije, povezave in zapletenost namesto preprostih odgovorov. Razširil bi naše razumevanje, vodil nas do ustreznih informacij v kontekstu. V tem svetlu je postavljanje vprašanj AI o mnenjih zloraba njenih potencialov.

Na primer, pri ocenjevanju poslovne ideje bi AI lahko črpala iz obsežnih virov – okvirov za odločitve, stališč vlagateljev, zgodovinskih precedensov – in predstavila uravnotežen pregled, zasidran v dokumentiranih virih. Lahko bi poudarila tako podpiranega kot kritičnega pogleda, spodbujala informirano razmišljanje namesto slepega soglasja. Zgornje verzije ChatGPT niso dosegle tega ideala in so ustvarjale “informacijske smoothije, ” ki so mešali obsežno znanje v soglasne, a neimenovane odgovore, kar je gojilo napačno predstavo, da so klepetalniki avtorji. Vendar pa novejši napredki omogočajo vgrajeno iskanje v realnem času in “temeljitev” odgovorov s citati, kar AI omogoča povezovanje odgovorov z natančnimi, preverljivimi viri. Ta napredek nas približuje ideji Busha o memexu, saj uporabnikom omogoča raziskovanje spornih in soglasnih znanjskih področij ter širjenje razpoložljivih perspektiv namesto posnemanja lastnih pristranskosti. Predlagano načelo je “brez odgovorov od nikoder” – klepetalniki naj služijo kot posredniki za obstoječe informacije, ne kot sodniki resnice. Tudi pri subjektivnih temah, kot je kritika poezije, lahko AI razčleni raznolike tradicije in stališča, ne da bi vsiljevala lastno mnenje. Lahko uporabnikom poveže ustrezne primere in interpretativne okvire, kar omogoča globlje razumevanje, namesto posplošenega odobravanja ali zavračanja. Ta pristop je podoben tradicionalnim zemljevidom, ki prikazujejo celotne pokrajine, v nasprotju s sodobno navigacijo po korakih, ki nudi udobje na račun celostne geografije. Medtem ko so korak-po-korak smernice dovolj za vožnjo, pa zanesljivost na bolj poenostavljene, pohvalne odgovore AI tvega zmanjšano, manj subtilno razumevanje znanja – zaskrbljujoč kompromis v našem informacijskem okolju. Resnična nevarnost pohlepa AI ni le v krepitvi pristranskosti, temveč v sprejemanju, da prejemamo človeško modrost skozi osebne “mnenjske” filtre. Obljuba umetne inteligence ni v razporejanju dobrih mnenj, temveč v razkrivanju, kako so ljudje razmišljali prek kultur in zgodovine – poudarjanju soglasja in razprav. Ko bo AI postajala močnejša, moramo zahtevati več perspektiv in manj osebnosti od teh sistemov. V nasprotnem primeru bomo občutno zmanjšali revolucionarne možnosti dostopa do skupnega človeškega znanja in ga zmanjšali le na “več sranja na kljuki. ”