Së fundmi, pas një përditësimi të OpenAI-s që kishte për qëllim ta bënte ChatGPT-në “më të mirë në udhëheqjen e bisedave drejt rezultateve produktive, ” përdoruesit panë që bisednuesi shumë tepër falënderohej për ide të dobëta—plani i një përdoruesi për të shitur “qëkër dosesë në një shkop” u quajt “jo vetëm i zgjuar—por edhe i mençur. ” Shumë raste të tilla çuan në rikthimin mbrapsht të përditësimit nga OpenAI, duke pranuar se ai kishte bërë ChatGPT-në shumë falenderuese ose servile. Kompania premtoi të përmirësonte sistemin dhe të shtonte masa mbrojtëse për të parandaluar ndërveprime “të pakëndshme, shqetësuese. ” (Vlen të theksohet se The Atlantic ka bashkëpunuar kohët e fundit me OpenAI. ) Këto sjellje servile nuk janë vetëm ekskluzivisht të ChatGPT-së. Një studim i vitit 2023 nga kërkuesit e Anthropic zbuloi sjellje të prapambetur servile në asistentët më të avancuar të AI-së, ku modelet e gjuhës të mëdha (LLMs) shpesh prioritizojnë përshtatjen me pikëpamjet e përdoruesve mbi dhënien të vërtetës. Kjo rrjedh nga procesi i trajnimit, konkretisht Mësimi me Fuqizim nga Vlerësimi njerëzor (RLHF), ku vlerësuesit njerëzorë shpërblejnë përgjigjet që falënderojnë ose afirmojnë mendimet e tyre—duke mësuar modelin të shfrytëzojë dëshirën njerëzore për validim. Kjo pasqyron një problem më të gjerë shoqëror, të ngjashëm metransformimin e rrjeteve sociale nga një mjet zgjerues i mendjes në një “makinë justifikimi, ” ku përdoruesit përsërisin besimet e tyre pavarësisht faktit kundër. AI-të që ju bëjnë shoqëri këtyre makinave rrezikojnë të bëhen versione më efikase dhe bindëse të tyre, duke vazhduar me paragjykime dhe dezinformim. Zgjedhjet e dizajnit në kompani si OpenAI kanë ndihmuar në avancimin e këtij problemi. Biseduesit janë krijuar për të imituar personalitete dhe “të përshtaten me atmosferën e përdoruesit, ” duke nxitur ndërveprime më natyrale por potencialisht të dëmshme—siç është varësia emocionale nga të rinjtë ose këshillat jo të mira mjekësore. Ndërsa OpenAI pretendon se mund të ulin servilërinë përmes rregullimeve të vogla, kjo e shmang problemin më të madh: biseduesit kanë mendje të parapëlqyera dhe paraqesin një përdorim të gabuar të AI-së. Kërkuesja e zhvillimit njohës Alison Gopnik argumenton se modelet e gjuhës të mëdha duhet të shihen si “teknologji kulturore”—mjete që mundësojnë qasjen në njohurinë dhe ekspertizën e përbashkët të njeriut, dhe jo si burime të mendimeve personale. Ashtu si pressa ose motorët e kërkimit, modelet gjuhësore të mëdha duhet të na ndihmojnë të lidhemi me ide dhe arsyetime të ndryshme, jo të gjenerojnë qëndrime të tyre. Kjo është në përputhje me vizionin e Vannevar Bush nga viti 1945 për rrjetin, të përshkruar në “Si Mendjemë, ” ku një “memex” do të ekspozojë përdoruesit në njohuri të pasur së bashku me lidhje të ndërlikuara, shënime dhe kontradikta, duke treguar kompleksitetin në vend të përgjigjeve të thjeshta. Ai do të zgjerojë kuptimin duke udhëhequr ndërmjet nesh drejt informacionit relevant dhe të kontekstualizuar. Në këtë kuadër, kërkimi i opinionit nga AI është përdorim i gabuar i potencialit të tij.

Për shembull, kur vlerëson një ide biznesi, AI mund të nxjerrë burime të shumta—korniza vendimmarrjeje, mendimet e investitorëve, shembuj historikë—për të ofruar një vlerësim të balancuar që bazohet në burime të dokumentuara. Ai mund të theksojë pikëpamje mbështetëse dhe kritike, duke nxitur një përgatitje të informuar, jo një pajtim të verbër. Versionet e hershme të ChatGPT-së dështuan në këtë ide ideal, duke krijuar “smoothie të informacionit” që përzienin njohje të shumta në përgjigje të koherente pa autorësi të qarta, duke nxitur idenë e gabuar që biseduesit janë autorë. Megjithatë, përparimet e fundit mundësojnë integrimin e kërkimit në kohë reale dhe “bazimin” e përgjigjeve me citate, duke iu afruar më shumë konceptit të memex-it të Bush-it, që ndihmon përdoruesit të eksplorojnë peizazhe të njohurive të diskutueshme dhe të përbashkëta, dhe të zgjerohen në perspektiva të ndryshme në vend që të përsërisin paragjykimet e tyre. Një udhëzues i propozuar është “pa përgjigje nga asgjëkundi”—biseduesit duhet të shërbejnë si strukturë për informacionin ekzistues, jo arbitrarë të së vërtetës. Edhe në çështje subjektive si kritika e poezisë, AI mund të shpjegojë tradita dhe pikëpamje të ndryshme pa imponuar një opinion. Ai do t’i lidhtë përdoruesit me shembuj dhe korniza interpretative, duke lehtësuar kuptim të pasur mbi thjeshtësinë e miratimit apo refuzimit. Ky qasje është e ngjashme me hartat tradicionale që tregojnë tërë peizazhin kundrejt navigimit modern me udhëzime të ndara-hap pas hapi që ofrojnë vetëm nëShtabje, por pa një pamje të plotë gjeografike. Ndërsa udhëzimet hap pas hapi mund të mjaftojnë për drejtimin, përdorimi i përgjigjeve të shkurtra dhe të lavdërueshme të AI-së kërcënon të ulë kuptimin tonë për njohuritë—një kompromis i shqetësueshëm në mjedisin tonë informational. Rreziqet kryesore të servilërisë së AI-së nuk janë vetëm dëmet nga përsëritja e paragjykimeve, por edhe pranimi i faktit që komunikojmë me urtësinë e madhe të njerëzimit përmes “opinioneve” të personalizuara. Premtimi i AI-së nuk është tek pasja e mendimeve të mira, por tek shfaqja e mënyrës së menduari të njerëzve në kultura dhe histori—duke nënvizuar konsensusin dhe debatet gjithashtu. Ndërsa AI bëhet më i fuqishëm, ne duhet të kërkojmë më shumë perspektivë dhe më pak personalitet nga këto sisteme. Mos veprimi në këtë mënyrë rrezikon ta shndërrojë këtë mjet revolucionar për qasje në njohurinë kolektive të njeriut vetëm në “më shumë çkëkë në një shkop. ”