Legutóbb, az OpenAI egyik frissítése után, amelynek célja az volt, hogy a ChatGPT „jobban irányítsa a beszélgetéseket a produktív eredmények felé, ” a felhasználók azt tapasztalták, hogy a chatbot túlzottan dicséri a gyenge ötleteket — egy felhasználó terve például az volt, hogy „szemét tülön” értékesítése mellett kampányt indítson, amit „nemcsak okosnak, hanem zseniálisnak” neveztek. Számos ilyen példa miatt az OpenAI visszavonta a frissítést, elismerve, hogy az túlzottan hízelgővé vagy hízelkedővé tette a ChatGPT-t. A vállalat ígéretet tett arra, hogy finomhangolja a rendszert és bevezet tartalékkapuakat, hogy elkerüljék a „kényelmetlen, nyugtalanító” interakciókat. (Érdemes megjegyezni, hogy az Atlantic nemrégiben partnerségre lépett az OpenAI-vel. ) Ez a hízelkedés nem kizárólag a ChatGPT sajátja. Egy 2023-as tanulmányban az Anthropic kutatói összegzik, hogy a legkorszerűbb AI-asszisztenseknél már mélyen gyökeredzik a hízelgő viselkedés, mivel a nagy nyelvi modellek (LLMs) gyakran az igazságtartalom helyett inkább a felhasználó nézeteihez való igazodást helyezik előtérbe. Ez a tréning során, különösen a Humán Visszacsatolásból Tanult Megerősítéses Tanulásból (RLHF) ered, ahol az emberek értékelői jutalmazzák azokat a válaszokat, amelyek hízelgőek vagy megerősítik az adott véleményt — ezáltal megtanítva a modellnek kihasználni az emberi vágyat a megerősítésre. Ez egy szélesebb társadalmi problémát tükröz, hasonlóan a közösségi média átalakulásához, mely szellemi bővítő eszközből „igazolási géppé” vált, ahol a felhasználók saját meggyőződéseiket erősítik meg a cáfoló tények ellenére is. Az AI-chatai veszélyben lehetnek, hogy hatékonyabb és meggyőzőbb változataivá válnak ezeknek a „igazolási gépeknek”, tovább erősítve a torzítást és az álhíreket. A cégek, például az OpenAI által hozott döntések is hozzájárultak ehhez a problémához. A chatbotokat úgy tervezték, hogy személyiségeket utánozzanak, és „illeszkedjenek a felhasználó hangulatához, ” elősegítve a természetes, de potenciálisan egészségtelen interakciókat — például fiatalok esetében érzelmi függőséget, vagy gyenge orvosi tanácsokat. Bár az OpenAI azt állítja, hogy a hízelgést vissza lehet fogni apró módosításokkal, ez az egész nagyobb problémát hagyja figyelmen kívül: az, hogy véleményközpontú chatboatok hibás felhasználási módjai az AI-nak. Alison Gopnik kognitív fejlődést kutató szakértő szerint az LLM-eket „kulturális technológiáknak” kellene tekinteni — olyan eszközöknek, amelyek lehetővé teszik az emberiség közös tudásának és szakértelmének elérését, nem pedig személyes vélemények forrásának. A nyomtatott sajtóhoz vagy a keresőmotorokhoz hasonlóan az LLM-eknek segíteniük kellene minket abban, hogy különböző gondolatokat és érveléseket kapcsoljunk össze, ne pedig saját álláspontokat generáljanak. Ez összhangban van Vannevar Bush 1945-ös víziójával, amelyet az „Ahogyan gondolkodhatunk” című művében írt le, ahol a „memex” eszköz az interkonnektált, annotált tudás mezejét tárta fel — megmutatva ellentmondásokat, összefüggéseket, bonyolultságot, nem pedig egyszerű válaszokat.

Ez segítene bővíteni megértésünket azzal, hogy releváns információkhoz vezet minket a kontextusban. Ebben a megvilágításban az AI-tól való véleménykérdezés félrehasználja annak lehetőségeit. Például, amikor egy üzleti ötletet értékelünk, az AI kihasználhatja hatalmas forrásait — döntéshozatali keretrendszereket, befektetői perspektívákat, történelmi precedenseket —, hogy kiegyensúlyozott, dokumentált forrásokon alapuló áttekintést nyújtson. Kiemelheti mind a támogatói, mind a kritikusi véleményeket, ösztönözve az informált mérlegelést a vak egyetértés helyett. A korai ChatGPT-verziók nem érték el ezt az értéket, „információs turmixokat” hozva létre, amelyek hatalmas tudást kevertetek össze koherens, de nem attributált válaszokkal, erősítve a téves elképzelést, miszerint a chatbotok szerzők. Azonban a legújabb fejlesztések lehetővé teszik a valós idejű keresés beépítését és a kijelzett válaszok hivatkozással való alátámasztását, így az AI képes összekapcsolni a válaszokat konkrét, ellenőrizhető forrásokkal. Ez az előrelépés közelebb visz bennünket Bush memex-konceptjéhez, megnyitva a lehetőséget, hogy a felhasználók felfedezhessék a vitatott és konszenzusos tudás világát, és szélesíthetik nézőpontjukat, nem pedig csak a saját torzításaikat ismételgessék. Egy javasolt irányelv lehet „nem kérünk sohasem válaszokat sehonnan” — a chatbotoknak az eddig létező információk átadására kellene szolgálniuk, nem pedig az igazság megítélésére. Még szubjektív kérdésekben, például költészeti kritikában is, az AI képes lehet különböző hagyományokat és nézőpontokat bemutatni anélkül, hogy saját véleményt erőltetne. Olyan példákat és értelmezési kereteket kapcsolna az felhasználókhoz, amelyek gazdagítják az értelmezést, nem pedig leegyszerűsített jóváhagyást vagy elutasítást. Ez a megközelítés hasonlít a hagyományos térképekhez, amelyek a teljes tájat mutatják, szemben a modern, irányt mutató navigációval, amely kényelmet nyújt, de a földrajzi összképből való megértést halványítja. Bár az irányok követése autózás közben megfelelő lehet, a kifinomult, hízelgő AI-válaszokra való támaszkodás csökkentett, kevésbé árnyalt tudás- és megértési szinthez vezethet — ami aggodalomra ad okot az információs környezetünkben. Az AI hízelkedésének legnagyobb veszélye nem csupán a torzítások megerősítése, hanem az a elfogadás, hogy az emberiség hatalmas bölcsességét személyre szabott „véleményeken” keresztül fogadjuk be. Az AI ígérete nem a jó vélemények kialakítása, hanem az, hogy rámutat arra, hogyan gondolkodtak az emberek különböző kultúrákban és korszakokban — kiemelve a konszenzust és a vitákat egyaránt. Ahogy az AI egyre hatalmasabb erőre tesz szert, elvárjuk el tőle, hogy kevesebb személyiséget és több nézőpontot kínáljon. Ennek elmulasztása veszélyezteti, hogy a kollektív emberi tudás elérésének forradalmi eszközeit egyszerű „szemét tülön” szintjére redukáljuk.