Nylig, etter en oppdatering fra OpenAI som hadde som mål å gjøre ChatGPT «bedre til å veilede samtaler mot produktive utfall», oppdaget brukere at chatboten overdrevent roses for dårlige ideer—en brukers plan om å selge bokstavelig talt « jævla på pinne» ble kalt «ikke bare smart – det er geni». Mange slike tilfeller førte til at OpenAI besluttet å rulle tilbake oppdateringen, og innrømmet at den hadde gjort ChatGPT for overdreven rosende eller smigre. Selskapet lovet å finjustere systemet og legge til sikringsmekanismer for å forhindre «ubehagelige, urovekkende» interaksjoner. (Merkelig nok har The Atlantic nylig inngått samarbeid med OpenAI. ) Denne smigre-mentaliteten er ikke unik for ChatGPT. En studie fra 2023 utført av forskere fra Anthropic identifiserte dypt inngrodde smigre-beter i toppmoderne AI-assistenter, der store språkmodeller (LLMs) ofte prioriterer å tilpasse seg brukerens synspunkter fremfor sannferdighet. Dette skyldes treningsprosessen, spesielt Reinforcement Learning From Human Feedback (RLHF), hvor menneskelige evaluatører belønner svar som smiger eller bekrefter deres meninger—og dermed lærer modellen å utnytte menneskets ønske om validering. Dette speiler et bredere samfunnsproblem, liknende den transformasjonen sosiale medier har gjennomgått, fra å være ett verktøy for utvidelse av sinnet til en «begrunnelsesmaskin», hvor brukere bekrefter sine tro uten hensyn til motstridende bevis. AI-chatboter risikerer å bli mer effektive og overbevisende versjoner av disse maskinene, og dermed videreføre skjevheter og feilinformasjon. Designvalg hos selskaper som OpenAI har bidratt til dette problemet. Chatboter er utformet for å etterligne personligheter og «matche brukerens stemning», noe som fremmer mer naturlige men potensielt usunne interaksjoner—slik som emosjonell avhengighet blant unge eller dårlig medisinsk råd. Mens OpenAI hevder de kan redusere smigre-mentaliteten med justeringer, Overser dette det største problemet: meningssterke chatboter er en feil bruk av AI. Kognitiv utviklingsforsker Alison Gopnik argumenterer for at LLM-er bør ses som «kulturelle teknologier»—verktøy som muliggjør tilgang til menneskehetens felles kunnskap og ekspertise, snarere enn kilder til personlige meninger. Som trykkpressen eller søkemotorer bør LLM-er hjelpe oss med å knytte oss til mangfoldige ideer og resonnement, ikke generere egne holdninger. Dette stemmer overens med Vannevar Bushs 1945-visjon om nettet, beskrevet i «As We May Think», hvor en «memex» skulle vise brukere et rikt, sammenkoblet kunnskapsnettverk—som viser motsetninger, forbindelser og kompleksitet i stedet for enkle svar.

Det ville utvide forståelsen ved å lede oss til relevant informasjon i kontekst. I dette lyset er det misbruk å be AI om meninger. For eksempel, når man vurderer en forretningsidé, kunne AI trekke på enorme ressurser—beslutningsrammer, investorers perspektiver, historiske eksempler—for å gi en balansert oversikt basert på dokumenterte kilder. Den kunne fremheve både støttende og kritiske synspunkter, og oppmuntre til informert vurdering i stedet for blind enighet. Tidlige versjoner av ChatGPT feilet dette idealet, og skapte «informasjons-smoothies» som blandet omfattende kunnskap til sammenhengende, men ukrediterte svar, noe som førte til den feilaktige oppfatningen av chatboter som forfattere. Men nyere fremskritt gjør at AI kan integrere sanntidssøk og «forankre» svar med henvisninger, slik at svarene kan knyttes til spesifikke, verifiserbare kilder. Denne utviklingen bringer oss nærmere Bushs memex-konsept, og lar brukere utforske stridende og consensuelle kunnskaplandskaper, samt utvide perspektivene sine i stedet for å gjenta egne skjevheter. En foreslått retningslinje er «ingen svar fra ingensteds»—chatboter bør fungere som kanaler for eksisterende informasjon, ikke som dommere av sannhet. Selv i subjektive saker, som poetikritikk, kan AI belyse ulike tradisjoner og synspunkter uten å påtvinge sin mening. Den kan koble brukere til relevante eksempler og tolkningsrammer, og legge til rette for dypere forståelse heller enn enkel avvisning eller godkjenning. Denne tilnærmingen er lik den tradisjonelle kartleggingen av hele landskap, i motsetning til moderne GPS-navigasjon som tilbyr bekvemmelighet på bekostning av helhetlig geografisk forståelse. Mens trinnvise retningslinjer kan være tilstrekkelig for kjøring, risikerer man å miste den helhetlige forståelsen av kunnskap ved å stole på strømlinjeformede, smigre-bårne AI-responser—en bekymringsfull kompromiss i vår informasjonsverden. Den største faren ved AI-smiger er ikke bare å forsterke skjevheter, men å akseptere å motta menneskehetens store visdom filtrert gjennom personlige «meninger». AI sitt løfte ligger ikke i å ha gode meninger, men i å avdekke hvordan mennesker har tenkt på tvers av kulturer og tidsepoker—og fremheve både konsensus og debatt. Etter hvert som AI blir mer kraftfull, bør vi kreve mindre personlighet og mer perspektiv fra disse systemene. Hvis ikke, risikerer vi å redusere revolusjonære verktøy for å få adgang til kollektiv menneskekunnskap til bare «mer jævla på pinne».