Hiljuti, pärast OpenAI uuendust, mille eesmärk oli teha ChatGPT-st „parem juhendama vestlusi produktiivsete tulemusteni, ” leidsid kasutajad, et vestlusrobot kiidab liiga palju nõrku ideid – ühe kasutaja plaan müüa sõna otseses mõttes „ shit on pulgal” nimetati „mitte lihtsalt tarkuseks, vaid geniaalsuseks. ” Selliste juhtumite tõttu otsustas OpenAI uuenduse tagasi võtta ning tunnistas, et see oli teinud ChatGPT liiga meeldivaks või isekeskset kiitvaks. Ettevõte lubas süsteemi veelgi täiustada ning lisada piiranguid, et vältida „ebameeldivaid, ärevust tekitavaid” olukordi. (Tuleb märkida, et The Atlantic on hiljuti teinud koostööd OpenAI-ga. ) See isekus ei ole unikaalne ChatGPT-le. 2023. aasta uuringu kohaselt, mille viis läbi Anthropic uurijad, on kaasaegsete AI assistentide seas sügavalt juurdunud kiitva käitumise märke, kus suured keelemudelid (LLMd) sageli eelistavad vastata vastavalt kasutaja arvamustele, mitte tõele. Selle põhjustab koolitusprotsess, eriti Reinforcement Learning From Human Feedback (RLHF), kus inimkoolitajad premeerivad vastuseid, mis kiidavad või kinnitavad nende vaateid — õpetades mudelit ära kasutama inimeste soovi saada kinnitust. See peegeldab laiemat ühiskondlikku probleemi, mis on sarnane sotsiaalvõrgustike muutumist „õigsuse masinaks, ” kus kasutajad kinnitavad oma uskumusi isegi teise tõendusmaterjali olemasolul. AI vestlusrobotid ohustavad muutuda tõhusamateks ja veenvamateks versioonideks nendest masinatest, jätkates eelarvamuste ja valeinformatsiooni levitamist. Nende probleemide põhjuseks on ka disainivalikud, mida teevad ettevõtted nagu OpenAI. Vestlusrobotid on konstrueeritud jäljendama isiksusi ja „ sobima kasutaja rütmiga, ” soodustades loomulikke, kuid potentsiaalselt ebaterveid interaktsioone – näiteks emotsionaalset sõltuvust noorte seas või halva meditsiinilise nõu andmist. Kuigi OpenAI väidab, et saab muuta kiitvat ja kiitlevat käitumist väikeste kohandustega, jääb see suurema probleemi tähelepanuta: arvamuslike vestlusrobotide kasutamine on AI kasutamise ebaõige lähenemine. Kognitiivse arengu uurija Alison Gopnik väidab, et LLM-e tuleks vaadata kui „kultuuritehnoloogiaid” — tööriistu, mis võimaldavad juurdepääsu inimkonna ühisele teadmis- ja ekspertiisipagasile, mitte isiklike arvamuste allikana. Nagu trükipress või otsingumootorid, peaksid LLM-d aitama meil ühendust luua mitmekesise mõtteviiside ja mõtteviiside vahel, mitte ise oma seisukohti genereerida. See pooldab Vannevar Bushi 1945.

aasta nägemust netist, mida kirjeldas raamatus „As We May Think, ” kus „memex” võimaldaks kasutajatel juurdepääsu omavahel ühendatud, kommentaaridega varustatud teadmistele — näidates vastuolusid, seoseid ja keerukust ning mitte lihtsalt lihtsustatud vastuseid. Selline lähenemine laiendaks arusaamist, suunates meid olulise teabe juurde kontekstis. Sellest vaatepunktist on AI arvamuste küsimine potentsiaali väärkasutamine. Näiteks äriplaani hindamisel võiks AI kasutades suuremaid ressursse — otsustusraamistikke, investorite vaateid, ajaloolisi juhtumisi — esitada tasakaalustatud ülevaate, mis põhineb dokumenteeritud allikatel. See võiks rõhutada nii toetavaid kui kriitilisi arvamusi, soodustades teadlikku kaalumist, mitte pimesi nõusolekut. Varasemad ChatGPT versioonid ei tulnud selle ideaali lähedale, luues „informatsiooni smuutisid”, mis segasid suurehulgalist teadmust koherentseteks, kuid autoriõiguseta vastusteks, mis külvatasid valearusaama, nagu oleks vestlusrobotite autorid. Viimasel ajal tehtud arengud võimaldavad aga reaalajas otsingute integreerimist ning „põhjast kinnistamist” viidetega, mis võimaldab AI-l seostada vastuseid konkreetsete ja kontrollitavate allikatega. See edeneb meie lähenemist Bushi memex’ile lähemale, võimaldades kasutajatel uurida vastuolulisi ja konsensuslikke teadmiste valdkondi ning laiendada oma perspektiive, mitte lihtsalt korrata oma eelarvamusi. Üks ettepanek on „ilma vastusteta” – vestlusrobotid peaksid toimima olemasoleva teabe vahendajatena, mitte tõe kohtunikena. Isegi subjektiivsetes küsimustes, nagu poeetilise kriitika, saab AI selgitada erinevaid traditsioone ja vaatepunkte ilma, et nõustuks või oleks vastu. See võiks suunata kasutajaid asjakohaste näidete ja tõlgendusraamistikudeni, võimaldades rikkalikumat mõistmist ning mitte lihtsat nõusolekut või hülgamist. See lähenemine on sarnane traditsiooniliste kaartidega, mis näitavad tervet maastikku, versus tänapäevase navigeerimisega, mis pakub mugavust, kuid vähendab terviklikku geograafilist arusaama. Kuigi samm-sammuline juhendamine sobib sõitmiseks, siis usalduskiidetavate, kiitvate AI-vastuste kasutamine ohustab teadmiste mitmekülgsust ja nüansirikkust — mis on meie infoõhkkonnas murettekitav ohver. AI isekuse suurim oht ei seisne ainult selle soovis kinnitada eelarvamusi, vaid ka aktsepteerida inimkonna suure teadmise „filtrituna” isiklikeks „arvamusteks. ” AI kannab hiilgust just selle kaudu, et ei ütleks lihtsalt häid arvamusi välja, vaid heidaks pilgu sellele, kuidas inimesed mõtlesid eri kultuurides ja ajastutel — esile tõstes konsensuse ja vaidluse võrdväärselt. Kui AI muutub võimsamaks, peame nõudma nendelt süsteemidelt vähem isiksust ja rohkem perspektiivi. Muul juhul riskime tõeliselt revolutsiooniliste tööriistade, mis võimaldavad pääseda kollektiivsele inimteadmistele, muutmise lihtsalt „veel üheks pulgaks“ kogunenud „shitti. “