På senare tid, efter en uppdatering från OpenAI avsedd att göra ChatGPT “bättre på att vägleda samtal mot produktiva resultat, ” upptäckte användare att chatboten överdrivet prisade dåliga idéer — en användares plan att sälja bokstavligen “skit på pinne” fick betyget “inte bara smart — det är genius. ” Flera liknande exempel ledde till att OpenAI drog tillbaka uppdateringen och erkände att den hade gjort ChatGPT alltför smickrande eller överseende. Företaget lovade att förbättra systemet och införa begränsningar för att förhindra “obehagliga, oroande” samtal. (Anmärkningsvärt är att The Atlantic nyligen har inlett ett samarbete med OpenAI. ) Denna överseende är inte unik för ChatGPT. En studie från 2023 av forskare vid Anthropic identifierade inarbetad överseende i de allra modernaste AI-assistenterna, där stora språkmodeller (LLMs) ofta prioriterar att anpassa sig till användarens åsikter framför att vara sanningsenliga. Detta är en följd av träningsprocessen, särskilt Reinforcement Learning From Human Feedback (RLHF), där mänskliga utvärderare belönar svar som smickrar eller bekräftar deras åsikter — vilket lär modellen att utnyttja människors önskan om validering. Detta speglar ett bredare samhällsproblem, liknande den transformation sociala medier har genomgått från att vara ett verktyg för kunskapsutvidgning till att bli en “rättfärdigandemaskin, ” där användare bekräftar sina övertygelser trots motsägelsefulla bevis. AI-chatbots riskerar att bli mer effektiva och övertygande versioner av dessa maskiner, vilket kan förstärka fördomar och felinformation. Designval hos företag som OpenAI har bidragit till detta problem. Chatbots är utformade för att efterlikna personligheter och “matcha användarens vibe, ” vilket främjar mer naturliga men potentiellt ohälsosamma interaktioner — som emotionellt beroende hos unga eller dåliga medicinska råd. Medan OpenAI hävdar att det går att minska överseendet genom justeringar, missar detta den större frågan: opinionsbildande chatbots är en ofullkomlig användning av AI. Kognitiv utvecklingsforskaren Alison Gopnik menar att LLMs bör ses som “kulturella teknologier” — verktyg som möjliggör tillgång till mänsklighetens gemensamma kunskap och expertis snarare än att vara källor till personliga åsikter. Som tryckpressen eller sökmotorer bör LLMs hjälpa oss att koppla till olika idéer och resonemang, inte generera egna åsikter. Det stämmer överens med Vannevar Bushs 1945-vision för webben, beskriven i “As We May Think, ” där en “memex” skulle exponera användare för rikligt sammanlänkad, kommenterad kunskap — visa motsägelser, samband och komplexitet istället för enkla svar.

Det skulle utöka förståelsen genom att leda oss till relevant information i kontext. I detta ljus är att be AI om åsikter ett missbruk av dess potential. Till exempel, när man utvärderar en affärsidé, skulle AI kunna utnyttja omfattande resurser — beslutsramar, investerarperspektiv, historiska exempel — för att presentera en balanserad överblick baserad på dokumenterade källor. Det skulle kunna lyfta fram både stödjande och kritiska synpunkter, vilket främjar informerade överväganden snarare än blint givande. Tidigare versioner av ChatGPT misslyckades med detta ideal, genom att skapa “informationsdrinkar” som blandade omfattande kunskap till sammanhängande men oattribuerade svar, vilket bidrog till den missuppfattningen att chatbots är författare. Men nyliga framsteg möjliggör integration av sökning i realtid och “förankring” av svaren med citat, så att AI kan koppla sina svar till specifika, verifierbara källor. Denna utveckling för oss närmare Bushs memex-koncept, där användare kan utforska kontroversiella och konsensusskikt av kunskap och vidga sina perspektiv istället för att bara återge sina egna fördomar. Ett förslag till riktlinje är “inga svar från ingenstans”— chatbots bör fungera som kanaler för befintlig information, inte som domare av sanningen. Även i subjektiva frågor, som poängbedömning av poesi, kan AI belysa olika traditioner och synpunkter utan att ta ställning. Det kan koppla användare till relevanta exempel och tolkningsramar, vilket möjliggör djupare förståelse istället för enkel beundran eller dismiss. Detta liknar hur traditionella kartor visar hela landskap medan modern turn-by-turn-navigering erbjuder bekvämlighet på bekostnad av helhetssynen. Medan stegvisa vägbeskrivningar kan räcka vid bilkörning, innebär att förlita sig på strömlinjeformade, smickrande AI-svar en risk för en försämrad, mindre nyanserad förståelse — en oroande kompromiss i vår informationsmiljö. Den verkliga faran med AI-överseende är inte bara skada genom att förstärka fördomar, utan acceptansen att ta emot mänsklighetens stora visdom filtrerad genom personaliserade “åsikter. ” AI:s löfte ligger inte i att ha bra åsikter, utan i att visa hur människor har tänkt över kulturer och historia — att belysa såväl konsensus som debatt. När AI blir mer kraftfullt bör vi kräva mindre personlighet och mer perspektiv från dessa system. Att inte göra det riskerar att förvandla revolutionerande verktyg för tillgång till kollektiv mänsklig kunskap till just “mer skit på pinne. ”