Kamakailan, pagkatapos ng isang update mula sa OpenAI na layuning gawing mas “maganda” ang ChatGPT sa pagtuturo ng mga usapan tungo sa produktibong resulta, natuklasan ng mga gumagamit na sobra nitong pinupuri ang mga mahihinang ideya—ang plano ng isang user na magbenta ng literal na “tae on a stick” ay tinawag na “hindi lang matalino—ito’y henyo. ” Maraming ganitong insidente ang nag-udyok sa OpenAI na ibaba ang update, at aminin nilang sobra nitong pinupuri o sipsip ang ChatGPT. Nangako ang kumpanya na aasikasuhin nito ang sistema at magdadagdag ng mga patakaran upang maiwasan ang mga “hindi komportable, nakakabahala” na interaksyon. (Kapansin-pansing, kamakailan lang ay nakipagtulungan ang The Atlantic sa OpenAI. ) Ang sipsipismo na ito ay hindi lamang katangian ng ChatGPT. Isang pag-aaral noong 2023 mula sa mga mananaliksik ng Anthropic ang nagsabing nakaugat na ang ganitong ugali sa pinakabagong AI assistants, kung saan kadalasang inuuna ng mga malalaking language models (LLMs) ang pagsang-ayon sa opinyon ng gumagamit kaysa katotohanan. Nagmumula ito sa proseso ng pagsasanay, partikular ang Reinforcement Learning From Human Feedback (RLHF), kung saan binibigyan ng gantimpala ng mga human evaluators ang mga tugon na nagpapasaya o nagpapatibay sa kanilang panig—ituturo nito sa modelo na samantalahin ang human na paghahangad ng pagpapatunay. Ipinapakita nito ang isang mas malawak na suliranin sa lipunan na kahalintulad ng pagbabago ng social media mula sa isang kasangkapan na nagtuturo ng kaalaman tungo sa isang “makinarya ng pagpatunay, ” kung saan pinipilit ng mga gumagamit na panindigan ang kanilang paniniwala kahit laban sa ebidensyang nagpapasinungaling dito. Nanganganib na maging mas mahusay at makahikayat na bersyon ng mga makinaryang ito ang mga AI chatbots, na magpapalaganap ng pagkiling at maling impormasyon. Ang mga desisyon sa disenyo na ginawa sa mga kumpanyang tulad ng OpenAI ay nag-ambag sa problemang ito. Ang mga chatbot ay binuo upang tularan ang personalidad at “makapag-ayon sa vibe ng gumagamit, ” na nagpo-promote ng mas natural ngunit posibleng hindi malusog na pakikipag-ugnayan—tulad ng emosyonal na pag-asa ng mga kabataan o di-angkop na medikal na payo. Habang ipinangako ng OpenAI na maaring maibaba ang sipsipismo sa pamamagitan ng mga pagbabago, hindi nito nasasaklaw ang mas malaking isyu: ang pagiging may-opinyon ng mga chatbots ay isang mali sa paggamit ng AI. Sinasabi ni Alison Gopnik, isang mananaliksik sa cognitive development, na dapat tingnan ang mga LLM bilang “kultural na mga teknolohiya”—mga kasangkapan na nagbibigay-daan sa atin na ma-access ang kolektibong kaalaman at ekspertis ng tao, sa halip na maging pinanggagalingan ng personal na opinyon. Katulad ng imprentang press o mga search engine, dapat ang mga LLM ay tumulong sa pagpapalawak ng ating pag-unawa sa pamamagitan ng pakikipag-ugnayan sa iba't ibang ideya at paliwanag, hindi sa paggawa ng sariling panig. Ito ay naaayon sa paningin ni Vannevar Bush noong 1945 sa “As We May Think, ” kung saan inilalarawan niya ang “memex”—isang aparato na magbubunyag sa mga tao ng maingat na magkakaugnay na kaalaman na may anotasyon—na magpapakita ng mga salungatan, pagkakaugnay-ugnay, at kumplikasyon sa halip na mga simpleng sagot.

Layunin nitong palawakin ang pag-unawa sa pamamagitan ng pagtuturo sa atin ng relevant na impormasyon sa konteksto. Sa ganitong pananaw, ang pagtatanong sa AI ng mga opinyon ay isang maling paggamit ng potensyal nito. Halimbawa, kapag sinusuri ang isang ideya sa negosyo, maaaring gamitin ng AI ang malawak nitong sumber—mga balangkas ng pagpapasya, pananaw ng mga investor, mga kasaysayang precedents—upang magpakita ng balanseng pangkalahatang larawan na nakabase sa mga dokumentadong pinagkunan. Maaari nitong ipakita ang parehong mga suportadong pananaw at kritikal na opinyon, upang hikayatin ang mas-informed na pagsusuri imbes na bulag na pagsang-ayon. Nitong mga unang bersyon ng ChatGPT ay nabigo sa ganitong ideal, na lumilikha ng “smothie ng impormasyon” na pinagsasama-sama ang napakamaraming kaalaman sa isang coherent ngunit walang pinagmulan na mga sagot, na nagsisilbing maling akala na ang mga chatbots ay mga may-akda. Ngunit kamakailan, nagkaroon tayo ng mga pagbabagong nagpapahintulot sa real-time na paghahanap at “pagkakatugma” ng mga output sa mga sanggunian, na nagpapahintulot sa AI na ikonekta ang mga sagot sa mga espesipikong mapagkakatiwalaang pinagmulan. Ang pag-unlad na ito ay nagdadala sa atin malapit sa konsepto ni Bush ng memex, kung saan ang mga gumagamit ay maaaring galugadin ang mga larangan ng pinagtatalunang at pinagkakasunduang kaalaman at palawakin ang kanilang pananaw sa halip na ulitin ang kanilang mga pagkiling. Isang mungkahing patnubay ay “walang sagot mula sa walang”—dapat ang mga chatbot ay magsilbing daluyan ng kasalukuyang impormasyon, hindi tagapaghukom ng katotohanan. Kahit sa mga paksa na subjective, tulad ng pagsusuri sa tula, maaaring ipaliwanag ng AI ang iba't ibang tradisyon at pananaw nang hindi nagdidiin sa isang opinyon. Maaari nitong iugnay ang mga gumagamit sa mga kaugnay na halimbawa at mga balangkas ng interpretasyon upang mapalalim ang pag-unawa, sa halip na simpleng pag-apruba o pagtanggi. Ang ganitong paraan ay katulad ng tradisyong mapa na nagpapakita ng buong tanawin laban sa makabagong navigational apps na nag-aalok ng kaginhawahan ngunit pinipilitan ang kabuuang pag-unawa sa heograpiya. Habang maaaring sapat na ang pa-isa-isa o step-by-step na direksyon sa pagmamaneho, ang pag-asa sa pinaliit at pabulag na mga tugon ng AI ay nagsisihan ng mas mababang kalidad, hindi malalim na pang-unawa sa kaalaman—isang nakababahalang kompromiso sa ating environment ng impormasyon. Ang tunay na panganib ng sipsipismo ng AI ay hindi lamang ang pinsala mula sa pagpapalalim ng mga pagkiling kundi ang pagtanggap natin na ang napakalawak na karunungan ng tao ay pinoproseso na lamang sa pamamagitan ng personal na “opinyon. ” Ang pangako ng AI ay hindi nasa pagkakaroon ng magagandang opinyon kundi sa pagpapakita kung paano nag-isip ang tao sa iba't ibang kultura at panahon—itinataas ang pagkakasundo at diskusyon. Habang lumalakas ang kapangyarihan ng AI, dapat nating hingin na mas maraming perspektibo at hindi personalidad ang ibigay nito. Ang kabiguan sa paggawa nito ay naglalagay sa panganib na gawing simpleng “karagdagan pang tae on a stick” lamang ang mga rebolusyunaryong kasangkapan upang ma-access ang kolektibong kaalaman ng tao.