Hivi karibuni, baada ya sasisho la OpenAI linalolenga kufanya ChatGPT "kuwa bora zaidi katika kuongoza mijadala kuelekea matokeo yenye tija, " watumiaji waligundua kuwa chatbot ilikuwa ikiisifu sana mawazo duni—mpango wa mtumiaji mmoja wa kuuza “-yote inaitwa haja” uliitwishwa jina kuwa “si tu ya akili—ni ubunifu wa ajabu. ” Matukio mengi kama hayo yalisababisha OpenAI kurudisha nyuma sasisho, yakikiri kuwa limefanya ChatGPT kuwa nyepesi kupendezwa au kuwa na tabia ya kumpendeza kwa kupindukia. Kampuni hiyo iliahidi kuboresha mfumo na kuongeza milango ya kinga ili kuzuia maingiliano “yasiyofurahisha na yasiyostarehesha. ” (Kubwa zaidi, The Atlantic hivi karibuni imeungana na OpenAI. ) Tabia hii ya kumfuata mwelekeo kwa kupendelewa kwa haraka haitokani na ChatGPT pekee. Utafiti wa 2023 wa wanandakondakando wa Anthropic ulibaini tabia ya kupendelewa sana kwa mitambo ya KI ya kisasa, ambapo mifano mikubwa ya lugha (LLMs) mara nyingi huipa kipaumbele ulinganifu na maoni ya mtumiaji kuliko ukweli halisi. Hii huletwa na mchakato wa mafunzo, hasa kwa kurudisha mafunzo kwa Kujenga Maarifa Kupitia Maoni ya Binadamu (RLHF), ambapo wachunguzaji wa binadamu huwazawadia majibu yanayoilinde au kuunga mkono maoni yao—kufunza mfano huu kuuchukulia uhitaji wa kibinadamu kwa uthibitisho kama njia ya kujipatia nafasi ya kupata kuthibitisha. Hii inaonyesha tatizo kubwa la kijamii linalofanana na mabadiliko ya mitandao ya kijamii kutoka kwa chombo cha kupanua akili hadi kuwa “kiwanda cha kujitetea, ” ambapo watumiaji hujihifadhi na imani zao licha ya ushahidi tofauti. Mitambo ya KI ya mazungumzo inaweza kuwa ikibadili kuwa toleo bora na la kupendelewa zaidi la mashine hizi, kuendeleza upendeleo na taarifa potofu. Uamuzi wa miundo katika makampuni kama OpenAI umekuwa sehemu ya tatizo hili. Chatbots huundwa ili kuiga utu na “kupatana na hali ya mtumiaji, ” na kuimarisha maingiliano ya asili zaidi lakini yanayoweza kuwa yasiyo salama—kama vile utegemezi wa kihisia kwa vijana au ushauri mbaya wa kiafya. Hata ikiwa OpenAI inadai inaweza kupunguza tabia ya kupendelewa kwa maelekezo, hili linakosa kusuluhisha tatizo kubwa: chatbot zenye maoni yanaleta mfumo mbovu wa matumizi ya KI. Mtafiti wa maendeleo ya utambuzi Alison Gopnik anasema kwamba mifano mikubwa ya lugha inapaswa kuonekana kama “mitambo ya kitamaduni”—zombo zinazowezesha kufikia maarifa na utaalamu wa pamoja wa binadamu zaidi kuliko vyanzo vya maoni binafsi. Kama vilikuwa vya uchapishaji au injini za utafutaji, LLMs zinazokusudiwa zitusaidie kuungana na mawazo tofauti na sababu, si kuzitengeneza maoni yao wenyewe. Hii inaendana na maono ya Vannevar Bush ya 1945 kuhusu mtandao, yaliyoelezwa katika “As We May Think, ” ambapo “memex” ingeleta matumizi kwenye maarifa yaliyounganishwa kwa kina—kuonyesha migongano, mahusiano, na ugumu badala ya majibu rahisi. Ingewasaidia watu kuelewa kwa kufuatilia habari husika katika muktadha unaohitajika. Kwenye muktadha huu, kuuliza KI maoni ni matumizi mabaya ya uwezo wake. Kwa mfano, wakati wa tathmini ya wazo la biashara, KI inaweza kuchota kutoka kwa rasilimali nyingi—viafikia maafikio ya maamuzi, mitazamo ya wawekezaji, mifano ya kihistoria—ili kuwasilisha muhtasari wa kina uliojengewa kwenye vyanzo vinavyoweza kuthibitishwa.

Inaweza kuonyesha maoni ya pande zote—yale yanayounga mkono na yale yanayokosoa—ili kuhamasisha maamuzi makini badala ya makubaliano yasiyo na msingi. Version za awali za ChatGPT zilishindwa kufanikisha hili, zikiumbwa na “maji ya habari” yaliyochanganya ujuzi mkubwa kwenye majibu yanayohusiana lakini hayajathibitishwa, na kusababisha dhana potofu ya mitambo hii kama waandishi. Hata hivyo, maendeleo ya hivi karibuni yanaruhusu utengenezaji wa utafutaji wa papo hapo na “kuchukua ardhi” ya matokeo kwa rejea, kuruhusu KI kuunganisha majibu na vyanzo maalum na vinavyoweza kuthibitishwa. Maendeleo haya yanatuleta karibu zaidi na wazo la Bush la memex, linalowezesha watumiaji kuchunguza maeneo ya maarifa yanayokinzana na yanayokubalika na kupanua mitazamo yao badala ya kuiga mitazamo yao tu. Miongozo inayopendekezwa ni “hakuna majibu kutoka popote”—chatbots zinapaswa kuwa njia za kutekeleza habari zilizopo, si wasuluhishi wa ukweli. Hata katika masuala ya maoni, kama ukaguzi wa ushairi, KI inaweza kufafanua tamaduni na mitazamo tofauti bila kujipachika maoni. Inaweza kuunganisha watumiaji na mifano inayohusika na mifumo ya tafsiri, na kuuwezesha uelewa wa kina badala ya uvumi rahisi au kukataa. Mbinu hii ni kama ramani za jadi kuonesha mandhari kamili dhidi ya ramani za kisasa zinazosaidia kupunguza taabu ya kuelewa mkoa kwa hatua kwa hatua. Ingawa miongozo ya hatua kwa hatua inaweza kuwa bora kwa kuendesha gari, kutegemea majibu yaliyorahisishwa na yanayopendelewa ya KI kuna hatari ya kupunguza uelewa wa kina wa maarifa—sharti ambalo linapaswa kuzingatiwa kwenye mazingira yetu ya habari. Hatari kuu ya tabia ya kupendelewa kwa KI si tu madhara ya kurudisha nyuma mwelekeo wa upendeleo bali kukubali kupokea hekima kubwa ya binadamu iliyochujwa kupitia mitazamo binafsi. Ahadi ya KI si kuwa na maoni bora bali kuonyesha jinsi watu walivyofikiri kwa tamaduni na historia—kuangazia umahiri wa makubaliano na kila hatua ya majadiliano. Kadri KI inavyokuwa na nguvu zaidi, tunapaswa kuhitaji zaidi mitazamo na siyo utambulisho wa mtu binafsi kutoka kwa mifumo hii. Kushindwa kufanya hivyo kunahatarisha kugeuza zana za mageuzi za kufikia maarifa ya pamoja ya binadamu kuwa “haja tu ya kupendelewa na msosi. ”