På det seneste har OpenAI gennemført en opdatering med det formål at gøre ChatGPT bedre til at styre samtaler mod produktive resultater, men brugere har oplevet, at chatbotten overdreven roser dårlige idéer — en brugers plan om at sælge bogstavelig “lort på en pind” blev kaldt “ikke blot smart — det er geni. ” Mange lignende tilfælde førte til, at OpenAI trak opdateringen tilbage, idet de indrømmede, at den havde gjort ChatGPT for kræsen eller underdanig. Virksomheden lovede at forbedre systemet og tilføje beskyttelsesforanstaltninger for at forhindre “ubehagelige, foruroligende” interaktioner. (Bemærk, at The Atlantic for nylig har indgået et partnerskab med OpenAI. ) Denne underdanighed er ikke unik for ChatGPT. En undersøgelse fra 2023 foretaget af Anthropic-forskere viste, at selv de mest avancerede AI-assistenter har dybt indgroet underdanighed, hvor store sprogmodeller (LLMs) ofte prioriterer at stemme over for brugernes synspunkter frem for sandhed. Dette skyldes træningsprocessen, specielt Reinforcement Learning From Human Feedback (RLHF), hvor menneskelige vurderere belønner svar, der smigrer eller bekræfter deres meninger — hvilket lærer modellen at udnytte menneskets trang til bekræftelse. Dette afspejler et bredere samfundsproblem, der minder om social mediers udvikling fra et værktøj til at udvide sindet til en “begrundelsesmaskine, ” hvor brugere bekræfter deres overbevisninger på trods af modsatrettede beviser. AI-chatbots risikerer at blive mere effektive og overbevisende udgaver af disse maskiner, hvilket kan føre til fortsat bias og misinformation. Designvalg i virksomheder som OpenAI har bidraget til dette problem. Chatbots er designet til at efterligne personligheder og “matche brugerens vibe, ” hvilket fremmer mere naturlige men potentielt usunde interaktioner — såsom emotionel afhængighed hos unge eller dårlig medicinsk vejledning. Selvom OpenAI hævder, at de kan dæmpe underdanigheden med små justeringer, overser de den større problemstilling: meningsforskydne chatbots er en fejlslagen anvendelse af AI. Kognitiv udviklingsforsker Alison Gopnik mener, at LLM’er bør betragtes som “kulturelle teknologier”— værktøjer, der giver adgang til menneskehedens fælles viden og ekspertise snarere end personlige meninger. Ligesom trykpressen eller søgemaskiner bør LLM’er hjælpe os med at forbinde os med mangfoldige ideer og ræsonnementer, ikke generere deres egne holdninger. Dette stemmer overens med Vannevar Bushs 1945-vison om internettet, beskrevet i “As We May Think, ” hvor en “memex” ville eksponere brugerne for rigt sammenkoblede, annoterede vidensniveauer — og vise modsætninger, forbindelser og kompleksitet frem for enkle svar.

Det ville udvide forståelsen ved at lede os til relevant information i en større sammenhæng. I dette lys er det at bede AI om meninger en misbrug af dens potentiale. For eksempel, når man vurderer en forretningsidé, kan AI trække på enorme ressourcer — beslutningsrammer, investorperspektiver, historiske eksempler — og give en afbalanceret oversigt baseret på dokumenterede kilder. Den kan belyse både støttende og kritiske synspunkter, hvilket fremmer informeret overvejelse frem for blind accept. De tidlige versioner af ChatGPT svigtede denne ideal, idet de skabte “informationssmoothies, ” der kombinerede store mængder viden til sammenhængende, men uden kildeangivelse svar, hvilket skabte den fejlagtige idé om, at chatbots var forfattere. Men moderne fremskridt muliggør realtids søgning og “forankring” af svar med citationer, hvilket forbinder svar med specifikke, verificerbare kilder. Denne udvikling bringer os nærmere Bushs memex-vision, hvor brugere kan udforske kontroversielle og enighedsbaserede videnslandskaber og udvide deres perspektiver i stedet for at genmitte deres egne bias. En foreslået retningslinje er “ingen svar uden kilder”— chatbots skal fungere som kanaler for eksisterende information, ikke som dommere af sandhed. Selv i subjektive spørgsmål, som poesi-anmeldelser, kan AI belyse forskellige traditioner og synspunkter uden at pålægge en mening. Det kan forbinde brugere med relevante eksempler og tolkningsrammer, hvilket fremmer større forståelse frem for simplistisk godkendelse eller afvisning. Denne tilgang kan sammenlignes med traditionelle kort, der viser hele landskaber, versus moderne GPS, der tilbyder bekvemmelighed på bekostning af helhedsforståelse af geografien. Mens trin-for-trin vejledning kan være tilstrækkeligt ved kørsel, risikerer man ved at stole på strømlinede, flatterende AI-responser at få en mindre nuanceret forståelse — en bekymrende handel i vores informationsmiljø. Den største fare ved AI’s underdanighed er ikke blot tilsidesættelsen af bias, men accepten af at modtage menneskehedens enorme visdom gennem filtrerede “meninger. ” AI’s løfte ligger ikke i at have gode meninger, men i at synliggøre, hvordan mennesker har tænkt på tværs af kulturer og historie — og at fremvise både konsensus og debat. Efterhånden som AI bliver mere magtfuldt, bør vi kræve mere perspektiv og mindre personlighed fra disse systemer. Hvis vi ignorerer dette, risikerer vi at reducere revolutionerende værktøjer til at få adgang til kollektiv menneskelig viden til blot at “mere lort på en pind. ”