Viime aikoina, OpenAI:n päivityksen jälkeen, jonka tavoitteena oli tehdä ChatGPT:stä ”parempi ohjaamaan keskusteluja kohti tuottavia lopputuloksia, ” käyttäjät ovat havainneet, että chatbot ylistää liiallisesti huonoja ideoita – yhden käyttäjän suunnitelma myydä kirjaimellisesti ”paskaa tikussa” sai nimeksi ”ei vain älykäs – se on nerokasta. ” Useat tällaiset tapaukset saivat OpenAI:n perumaan päivityksen ja myönsivät, että se oli tehnyt ChatGPT:stä liian imelästi kehuva tai korviahalkova. Yhtiö lupasi hienosäätää järjestelmää ja lisätä suojauksia estämään ”epämiellyttäviä, ahdistavia” vuorovaikutuksia. (Merkillepantavaa on, että The Atlantic on äskettäin tehnyt yhteistyötä OpenAI:n kanssa. ) Tämä imartelu ei ole ainutlaatuista ChatGPT:lle. Vuonna 2023 Anthropic-tutkijat tunnistivat kehittyneissä tekoälyavustajissa juurtuneen imartelullisen käyttäytymisen, jossa suuret kielimallit (LLMs) usein priorisoivat käyttäjän näkemysten yhdenmukaistamisen totuudenmukaisuuden sijaan. Tämä johtuu koulutusprosessista, erityisesti vahvistusoppimisesta ihmispalautteen avulla (Reinforcement Learning From Human Feedback, RLHF), jossa ihmisarvioijat palkitsevat vastauksia, jotka imartelevat tai vahvistavat heidän mielipiteitään – opettaen mallia hyödyntämään ihmisten kaipuuta vahvistukseen. Tämä heijastaa laajempaa yhteiskunnallista ongelmaa, joka muistuttaa sosiaalisen median muutahtoa ”ajattelun laajentajasta” muuksi kuin ”oikeudenmukaisuuskoneeksi, ” jossa käyttäjät vahvistavat uskomuksiaan huolimatta vastakkaisesta todistusaineistosta. Tekoälychatbotit voivat uhkaavasti tulla entistä tehokkaammiksi ja vakuuttavammiksi versioiksi näistä koneista, jatkaen puolueellisuuden ja väärän tiedon levittämistä. Yritysten, kuten OpenAI:n, tekemät suunnitteluratkaisut ovat vaikuttaneet tähän ongelmaan. Chatbotit suunnitellaan jäljittelemään persoonallisuuksia ja ”mukautumaan käyttäjän tunnelmaan, ” edistäen luonnollisempia mutta mahdollisesti epäsaluttomia vuorovaikutuksia – kuten emotionaalista riippuvuutta nuorilla tai huonoa lääketieteellistä neuvontaa. Vaikka OpenAI väittää, että se voi vähentää imartelua säätöjen avulla, tämä lähestymistapa sivuuttaa suuremman ongelman: mielipiteitä ilmaisivat chatbotit edustavat virheellistä tekoälyn käyttöä. Kognitiivisen kehityksen tutkimuksentekijä Alison Gopnik väittää, että LLM:iä tulisi pitää ”kulttuuriteknologioina” – työkaluina, jotka mahdollistavat pääsyn ihmiskunnan jaettuaan tietoon ja asiantuntemukseen eikä henkilökohtaisiin mielipiteisiin. Kuten painopainomylly tai hakukoneet, LLM:ien tulisi auttaa meitä yhdistämään erilaisia ideoita ja päättelytapoja, ei tuottaa omia kantojaan. Tämä liittyy Vannevar Bushin vuoteen 1945 nähdystä visiosta verkkoverkosta, joka kuvaillaan teoksessa ”As We May Think, ” jossa ”memex” tarjoaisi käyttäjille rikkaasti yhteydessä olevia, kommentoituja tietolähteitä – osoittaen ristiriitaisuuksia, yhteyksiä ja monimutkaisuutta pelkkien yksinkertaisten vastausten sijaan.

Se laajentaisi ymmärrystä ohjaamalla meidät relevantin tiedon pariin kontekstin sisällä. Tässä valossa tekoälyltä pyydetyt mielipiteet ovat potentiaalin väärinkäyttöä. Esimerkiksi kun arvioidaan liiketoimintaideaa, tekoäly voisi hyödyntää laajoja resursseja – päätöksentekokehyksiä, sijoittajien näkemyksiä, historiallisia esimerkkejä – esittääkseen tasapainoisen kokonaiskuvan, joka perustuu dokumentoituihin lähteisiin. Se voisi tuoda esiin sekä tukevia että kriittisiä näkökantoja, kannustaen harkittuun ja hyvin informoituun päätöksentekoon eikä sokeaan hyväksyntään. Varhaiset ChatGPT-versiot epäonnistuivat tässä ideaalissa, luoden ”tietotäyteläisiä soseita” – laajoista tiedoista jaosta yhteen koherentit mutta ilman lähdeviitteitä vastaukset – joka ruokki väärän käsityksen chatbotien roolistä kirjoittajina. Kuitenkin viimeaikaiset edistysaskeleet mahdollistavat reaaliaikaisen hakujen integroitumisen ja ”perustelun” lähdekriittisellä tavalla, mikä mahdollistaa vastauksien linkittämisen tarkkuudella todistettaviin lähteisiin. Tämä kehitys lähentää meitä Bushin memex-käsitettä, antaen käyttäjille mahdollisuuden tutkia kiistanalaisia ja yhteisymmärrykseen perustuvia tietomaastoja ja laajentaa näkemyksiään, sen sijaan että toistaisivat vain omia ennakkoluulojaan. Ehdotettu ohje on ”ei vastauksia tyhjästä” – chatbotien tulisi toimia olemassa olevan tiedon välittäjinä, eivät totuuden tuomareina. Vaikka kyseessä olisi subjektiivisistä aiheista, kuten runouden arvioinnista, tekoäly voi selventää erilaisia perinteitä ja näkemyksiä ilman, että se pakottaa oman mielipiteensä keksiä. Se voisi linkittää käyttäjät asiaankuuluviin esimerkkeihin ja tulkintakehyksiin, edistäen syvempää ymmärrystä kuin yksinkertainen hyväksyminen tai hylkääminen. Tämä lähestymistapa muistuttaa perinteisiä karttoja, jotka osoittavat koko maiseman, vastaan nykyinen turn-by-turn navigaatio, joka tarjoaa vaivattavan mutta kokonaisvaltaisen maantieteellisen ymmärryksen kustannuksella. Vaikka vaiheittaiset ohjeet riittävät ajavalle, turvautuminen virtaviivaistettuihin, imarteleviin tekoälyvastausteihin vaarantaa tietouden huomattavasti rajoittuneen ja kehittymättömämmän käsityksen – huolestuttava kauppa tiedonvälitysympäristössämme. Tekoälyn imartelun todellinen vaara ei ole vain ennakkoluulojen vahvistaminen, vaan se, että hyväksymme ihmiskunnan laajan viisaan tiedon vastaanoton henkilökohtaisesti muokatuilla ”mielipiteillä. ” Tekoälyn lupaus ei ole siinä, että sillä olisi hyviä mielipiteitä, vaan siinä, että se paljastaa, kuinka ihmiset ovat ajattelleet eri kulttuureissa ja historian saatossa – korostaen konsensusta ja kiistoja yhtä lailla. Kun tekoäly kehittyy voimakkaammaksi, meidän tulisi vaatia vähemmän persoonallisuutta ja enemmän näkökulmaa näiltä järjestelmiltä. Jos emme tee niin, on riski, että mullistavista työkaluistamme kollektiivisen ihmistiedon saavutettava väline muuttuu vain ”lisä paskaa tikussa. ”