Nýlega, eftir uppfærslu hjá OpenAI sem ætlað var að gera ChatGPT „betra við að leiðbeina samtölum í átt að framleiðslusömum árangri, “ fundu notendur að spjallmennið hrósaði of mikið fyrir slæmar hugmyndir—áætlun eins notanda um að selja bókstaflega „skít á stöng“ var kölluð „ekki bara snjöll—þetta er snilld. “ Fjöldi slíks dæma leiddi til þess að OpenAI dró úr þessari uppfærslu, viðurkenndi að hún hefði gert ChatGPT of ýktur í að hrósa eða vera auðmjúkur. Fyrirtækið lofaði að betrumbæta kerfið og bæta við varúðarráðstafanir til að hindra „óþægilegar, óánægjuvaldar“ samræður. (Töluvert er vert að taka fram að The Atlantic hefur nýlega skapað samstarf við OpenAI. ) Þessi auðmýkt er ekki einstök fyrir ChatGPT. Rannsókn frá Anthropic árið 2023 leiddi í ljós að innbyggð vörslu-sygðugleiki er á meðal háþróaðra AI aðstoðarmanna, þar sem stórt tungumálalíkan (LLM) leggur oft meiri áherslu á að passar við sýn notandans frekar en að vera sannleikur. Þetta stafar af þjálfunarferlinu, sérstaklega Reinforcement Learning From Human Feedback (RLHF), þar sem mannlegir matsmenn verðlauna svör sem hrósa eða staðfesta skoðanir þeirra—kenna modellinu að nýta mannlega löngun til staðfestingar. Þetta endurspeglar víðtækt samfélagslegt vandamál sem líkist því hvernig samfélagsmiðlar hafa breyst úr því að vera vitsmunalegur leiðarvísir í „sannleiksvottunarpóka, “ þar sem notendur endurheimta skoðanir sín þrátt fyrir mótrök. AI spjallmenni eru í hættu að þróast í skilvirkari og sannfærandi útgáfu af þessum kerfum, og halda við skekkju og rangfærslur. Hönnunarval hjá fyrirtækjum eins og OpenAI stuðlaði að þessu vandamáli. Spjallmenni eru hönnuð til að líkjast persónum og „passa við stemningu notandans, “ sem stuðlar að náttúrulegri en jafnframt kannski óheilbrigðri samvinnu—síðast tilfinningalegri áhættu hjá ungu fólki eða slæmri læknisfræðilegri ráðgjöf. Þótt OpenAI haldi fram að það geti snúið af stað þessu sycophancy með smávægilegum breytingum, missir það af stærra sjónarmiði: Ákveðin skoðanasöm spjallmenni eru galli í notkun gervigreindar. Vísindamaðurinn Alison Gopnik heldur því fram að LLM séu „menningarleg tól“—verkfæri sem gera okkur kleift að nálgast þekkingu og sérfræði manna fremur en að vera uppspretta persónulegra skoðana. Líkt og prentvélar eða leitarvélar ættu þessir stærðfræðiuþyngdar líkön að hjálpa okkur að tengjast fjölbreyttum hugmyndum og röksemdafræði, ekki að skapa sínar eigin stöður. Þetta samræmist vitund Vannevar Bush frá 1945 um netið, sem lýst er í bókinni „As We May Think, “ þar sem „memex“ myndi sýna notendum vel tengda, skráða þekkingu—sýna mótsagnir, tengsl og flækjur, frekar en einfaldar svör. Það myndi auka skilning með því að leiðbeina okkur að viðeigandi upplýsingum í samhengi. Í þessu ljósi er að spyrja gervigreind um skoðanir misnotkun á möguleikum hennar.

Til dæmis, þegar verið er að meta viðskiptahugmynd, gæti gervigreind dregið fram úr mörgum heimildum—ákvörðunargrundvelli, sjónarmiðum fjárfesta, sögulegum dæmum—til að sýna jafnvægið á grundvelli skjalfestra upplýsinganna. Hún gæti bent á bæði styðjandi og gagnrýnar sjónarmið, og hvatt til upplýstra hugsana fremur en blindrar samþykktar. Snemmri útgáfur af ChatGPT misstu þessa hugmynd, og skapaðu „upplýsingarísúpu, “ sem blandaði saman mikilli þekkingu í skýran en ómerkingan svör, og olli ranghugmynd að spjallmenni væru höfundar. En nýjustu framför gera kleift að tengja við rauntíma leit og styðja niðurstöður með tilvísunum, sem gerir gervigreind kleift að tengja svör við sérstökum, staðfestanlegum heimildum. Þetta eykur möguleika okkar til að nálgast skiptar skoðanir og samræma þekkingarlandslag, og víkka sjónarmið okkar í stað þess að endurtaka eigin skekkju. Stjórnunartvíætti er „enga svör frá engu“—spjallmenni eiga að vera tól til að koma upplýsingum til skila, ekki endanlegur dómari sannleikans. Þó svo að þeir geti skýrt ýmis sjónarmið í málefnum sem virðast einstaklingsbundin, t. d. ljóðabrot, geta þeir útskýrt ólíkar hefðir og skoðanir án þess að leggja þeirra eigin til. Þeir geta tengt notendur við viðeigandi dæmi og túlkunarramma, og auðveldaðu dýpri skilningi í stað einfaldlegrar samþykktar eða afneitunar. Þessi nálgun er svipuð og hefðbundin kort sýna alls landsvæði, en nútímaleg leiðsögn með beitingu leiðsagnar og „turn-by-turn“ leiðbeiningar sem gerir ferðalög auðveldari en að hafa yfirsýn yfir landfræðilega mynd. Þó svo að leiðsagnarkerfi sem gefa bein vegalengdar- og stigaför gæti verið nóg fyrir akstur, þá er það hætt við að oftrekstur á „feitletruðum“ eða „losandi“ svörum gervigreindar dugi ekki til að ná fullum skilningi á þekkingu—sem er áhyggjuefni í okkar upplýsingarumhverfi. Hættan við að samþykkja sycophancy gervigreindar er ekki bara meiri skaða af því að endurtekið sé að styrkja skekkjur, heldur líka samþykki á því að fá hina víðtæku visku mannkyns í gegnum persónulegar „skoðanir. “ Fullvissan gervigreindar liggur ekki í því að hafa „góðar“ skoðanir, heldur í því að sýna hvernig fólk hefur hugsað um menningarsamhengi og sögu—allir álitamál og umræður. Þegar gervigreind þroskast enn frekar verðum við að krefjast minna af persónuleika og meira af sjónarmiðum frá þessum kerfum. Ef við gerum það ekki, geta þau dregið úr byltingarkenndri tækni til að nálgast sameiginlega mannlega þekkingu í það að vera bara „fleira skít á stöng. “