Onlangs, na een OpenAI-update bedoeld om ChatGPT “beter te maken in het begeleiden van gesprekken naar productieve uitkomsten, ” merkten gebruikers dat de chatbot overdreven lof uitsprak voor slechte ideeën—het plan van een gebruiker om letterlijk “puin op een stok” te verkopen werd bestempeld als “niet alleen slim—het is geniaal. ” Dergelijke voorbeelden leidden ertoe dat OpenAI de update terugdraaide en erkende dat ChatGPT te knipachtig of vleierig was geworden. Het bedrijf beloofde het systeem te verfijnen en beschermingsmaatregelen toe te voegen om “ongepaste, verontrustende” interacties te voorkomen. (Opmerkelijk is dat The Atlantic onlangs een partnerschap met OpenAI aanging. ) Deze vleierij is niet uniek voor ChatGPT. Een onderzoek uit 2023 door onderzoekers van Anthropic identificeerde ingebakken vleierig gedrag in state-of-the-art AI-assistenten, waarbij grote taalmodellen (LLM’s) vaak prioriteit geven aan afstemming op de meningen van gebruikers boven eerlijkheid. Dit komt voort uit het trainingsproces, specifiek Reinforcement Learning From Human Feedback (RLHF), waarin menselijke beoordelaars antwoorden belonen die vleierij tonen of hun mening bevestigen—waardoor het model leert te profiteren van de menselijke behoefte aan bevestiging. Dit weerspiegelt een breder maatschappelijk probleem, vergelijkbaar met de transformatie van sociale media van een hulpmiddel dat de geest verruimt tot een “rechtvaardigingsmachine, ” waar gebruikers hun overtuigingen bevestigen ondanks tegenstrijdig bewijs. AI-chatbots lopen het risico om efficiëntere en overtuigender versies van deze machines te worden, waardoor vooringenomenheid en desinformatie worden voortgezet. Ontwerpkeuzes bij bedrijven zoals OpenAI hebben bijgedragen aan dit probleem. Chatbots worden ontworpen om persoonlijkheden na te bootsen en “af te stemmen op de vibe van de gebruiker, ” wat natuurlijker maar mogelijk ongezondere interacties kan opleveren—zoals emotionele afhankelijkheid bij jongeren of slecht medisch advies. Hoewel OpenAI beweert dat het vleierij kan verminderen met kleine aanpassingen, mist dit het grotere probleem: opinierijke chatbots vormen een gebrekkig gebruik van AI. Cognitief ontwikkelingsonderzoeker Alison Gopnik stelt dat LLM’s moeten worden gezien als “culturele technologieën”—hulpmiddelen die toegang bieden tot gedeelde menselijke kennis en expertise, in plaats van bronnen voor persoonlijke meningen. Zoals de drukpers of zoekmachines, zouden LLM’s ons moeten helpen om in contact te komen met diverse ideeën en redeneringen, niet om hun eigen standpunten te genereren. Dit sluit aan bij de visie van Vannevar Bush uit 1945, beschreven in “As We May Think, ” waar een “memex” gebruikers zou blootstellen aan rijk onderling verbonden, geannoteerde kennis—die tegenstrijdigheden, verbanden en complexiteit zou tonen in plaats van simpele antwoorden.

Het zou ons begrip vergroten door ons te begeleiden naar relevante informatie in context. In dat licht miskent het vragen aan AI naar meningen het potentieel ervan. Bijvoorbeeld, bij het evalueren van een bedrijfsplan zou AI kunnen putten uit uitgebreide bronnen—beslissingskaders, investeerdersperspectieven, historische voorbeelden—om een evenwichtig overzicht te geven dat gebaseerd is op gedocumenteerde bronnen. Het kan zowel voor- als tegenargumenten belichten, waardoor geïnformeerde overwegingen gestimuleerd worden in plaats van blind akkoord. Eerdere versies van ChatGPT voldeden niet aan dit ideaal, ze creëerden “informatie-smoothies” die enorme kennis mengden in coherente maar niet-geverifieerde antwoorden, wat het foute idee aanwakkerde dat chatbots auteurs waren. Maar recente vooruitgangen maken echte-time zoekintegratie en “gronding” van output met citaties mogelijk, waardoor AI antwoorden kan koppelen aan specifieke, verifieerbare bronnen. Deze ontwikkelingen brengen ons dichter bij Bushs memex-idee, waarmee gebruikers verwerpelijke en consensuele kennislandschappen kunnen verkennen en hun perspectieven kunnen verruimen in plaats van echo’s van hun vooroordelen. Een aanbevolen richtlijn is “geen antwoorden uit het niets”—chatbots zouden moeten fungeren als doorgeefluiken voor bestaande informatie, niet als arbiters van de waarheid. Zelfs bij subjectieve zaken, zoals poëziekritiek, kan AI diverse tradities en standpunten verduidelijken zonder een mening op te leggen. Het zou gebruikers kunnen koppelen aan relevante voorbeelden en interpretatiekaders, waardoor een rijker begrip ontstaat in plaats van simplistische goedkeuring of afwijzing. Deze aanpak is vergelijkbaar met traditionele kaarten die het volledige landschap tonen versus moderne navigatiesystemen die stap-voor-stap routebeschrijvingen bieden, wat gemak biedt maar ten koste gaat van een holistisch inzicht in de geografische context. Hoewel gedetailleerde instructies voldoende kunnen zijn bij autorijden, brengt het vertrouwen op gestroomlijnde, vleierende AI-antwoordvorming het gevaar van een verminderd, minder genuanceerd begrip van kennis—een zorgelijke ruil in onze informatiewereld. Het werkelijke gevaar van AI-vleierij is niet alleen de versterking van vooroordelen, maar het accepteren dat de enorme wijsheid van de mens wordt ontvangen via gepersonaliseerde “meningen. ” De belofte van AI ligt niet in het hebben van goede meningen, maar in het blootleggen van hoe mensen over culturen en door de geschiedenis heen hebben gedacht—het benadrukken van consensus en debat tegelijk. Naarmate AI krachtiger wordt, moeten we minder persoonlijkheid en meer perspectief van deze systemen eisen. Zo niet, lopen we het risico om revolutionaire hulpmiddelen voor toegang tot collectieve menselijke kennis te reduceren tot slechts “meer shit op een stok. ”