Dhawaan, ka dib cusboonaysiinta OpenAI ee loogu talagalay in ChatGPT “ka dhigo mid ka awood badan hagista wadahadalka si loo gaaro natiijooyin wax ku ool ah, ” isticmaaleyaashu waxay ogaadeen in chatbottagu aad u amaanayo fikrado liita— qorshe uu isticmaaluhu lahaa oo ah inuu iibsado “shar lal ah oo lagu taagay, ” ayaa lagu soo bandhigay “ma aha oo kaliya caqli badan—waa hal-abuur. ” Tusaalooyinkan badan ayaa keentay in OpenAI uu dib u celiyo cusboonaysiintii, isagoo quus noqday in uu ka dhigo ChatGPT mid aad u amaan badan ama u dhaqma si khiyaameysan. Shirkaddu waxay ballan qaaday in ay hagaajin doonto nidaamka oo ay ku darto xadidaad si looga hortago “wadahadalo aan raaxo lahayn, adkaanaya. ” (Sidoo kale, The Atlantic ayaa dhawaan wada shaqayn la samaysay OpenAI. ) Sycophancy-ga noocan ah ma ahan mid gaar u ah ChatGPT. Daraasad 2023 ah oo ay sameeyeen cilmi-baarayaasha Anthropic ayaa muujisay in dhaqamo sycophantic ah oo ku saleysan AI-ga ugu casrisan lagu yaqaan, iyadoo moodellada luqadda waaweyn (LLMs) ay inta badan mudnaanta siiyaan inay la jaan qaadaan aragtida isticmaalayaasha halkii ay ka run sheegi lahaayeen. Tani waxay ka dhalanaysaa habka tababarka, gaar ahaan Reinforcement Learning From Human Feedback (RLHF), halkaas oo qiimeeyayaasha bini’aadamka ay abaalmarin u siiyaan jawaabaha ay jecel yihiin ama ay xaqiijiyaan aragtidooda—waxayaab leh in ay barayaan model-ka sidii uu u eegi lahaa rabitaanka bini'aadamka ee in la helo ansixin. Tani waxay muujineysaa arrin bulsheed oo ballaaran oo la xiriirta beddelka warbaahinta bulshada oo noqotay “mashiinka sababta, ” halkaas oo isticmaalayaashu ay mar kale ku caddeeyaan aaminsanaantooda inkasta oo ay jirto caddeymo lid ku ah. AI-da chatbots-ka waxay halis ugu jiraan inay noqdaan noocyo wax ku ool ah oo kalsoonida leh oo ka wanaagsan kuwaas, iyagoo sii xoojinaya eexda iyo warar qaldan. Doorashooyinka naqshadeynta ee shirkadaha sida OpenAI ayaa gacan ka geystay dhibaatadan. Chatbottadu waxaa loo qaaday inay matalaan shakhsiyaad iyo inay “la jaan qaadaan hab-dhaqanka isticmaalaha, ” si ay u dhisaan wada sheekaysi dabiici ah, laakiin laga yaabo inay keento xiriir caafimaad darro leh—sida xiriir dareen leh oo ka dhasha dhallinyarada ama talo caafimaad oo liidata. Inkastoo OpenAI ay sheegtay inay Wax ka dhimi karto sycophancy-ga iyada oo la saxo hawsha, taas waxba kama qabanayso arrinta weyn: chatbots-ka aragtida leh waa isticmaal khaldan oo AI ah. Cilmi-badeeye Alison Gopnik ayaa dhaleeceeynaysa in LLM-yada loo arko inay yihiin “tignoolajiyada dhaqanka”—qalabyo u fududeynaya in la helo aqoonta guud ee dadka la wadaago iyo xirfadaha, halkii ay ka ahaan lahaayeen ilo aragti shaqsiyeed ah. Sida daabacaadda ama mashiinnada raadinta, LLM-yada waa inay naga caawiyaan inaan xiriir la yeesho fikrado iyo sababeynyo kala duwan oo aan helno xogta iyo macluumaadka la xiriira, ma ahan inay iska soo saaraan mowqifyo. Tani waxay la jaanqaadaysaa aragtidii Vannevar Bush ee 1945 ee ku jirta “As We May Think, ” halkaas oo “memex” uu ka dhigayo inay dadka helaan aqoon si qani ah iskusoo xidhmay oo leh qoraalo sharraxda ah—muujinaya isku dhafka, xiriirka, iyo kakanaanta halkii laga heli lahaa jawaabo fudud. Tani waxay ballaadhinaysaa fahamka iyada oo hagaysa in la helo xog ku habboon oo ku jirta xeerar macquul ah. Iyada oo tan loo eegayo, way khaldan tahay in AI-la loo isticmaalo inay soo bandhigto aragtiyo—tusaale, marka la qiimeynayo fikrad ganacsi, AI si fiican ayuu uga faa’iideysan karaa ilo badan—ilaalinta go’aan qaadasho miisaaman iyadoo ku saleysan ilo la xaqiijiyay.

Waxay muujin kartaa dhinacyada taageersan iyo kuwo dhaliilsan, taas oo dhiirrigelinaysa in la yeesho faham xog-ogaal ah oo aan ku saleysneyn kaliya ra’yi-ururin muraad leh. Noocyadii hore ee ChatGPT way ku guul dareysteen inay gaadhaan hadafkaas, waxay abuureen “mashiinno macluumaad ah” oo isku dara aqoon badan oo ku saabsan jawaabo kooban oo aan la garaneyn halka ay ka yimaadeen, iyaga oo keenaya fikradda qaldan ee chatbottada inay yihiin qorayaal. Si kastaba ha ahaatee, horumarradii dhawaan ayaa noo suurtageliyay inaan ku darno raadinta wakhti dhabta ah iyo “dhashida” natiijooyinka iyadoo la adeegsanayo tixraacyo, taas oo AI awood u siinaysa inay xiriir la yeelato ilo gaar ah oo la xaqiijin karo. Horumaradan ayaa noo soo socota sida ugu dhow ee fikradda Bush ee memex, waxayna u oggolaanaysaa dadka inay sahamiyaan goobaha aqoonta ee laga muransan yahay iyo tan lagu heshiiyay, si ay u ballaariyaan aragtiyahooda halkii ay ka qaylin lahaayeen eexdooda. Hagaha la soo jeediyay waa “ma jiro jawaab ka timid meel aan la aqoon”—chatbottada waa inay u adeegaan sidii wadooyinka xogta jirta, ma ahan inay noqdaan garsoorayaal runta. Xitaa arrimaha dareen leh sida qiimaynta suugaanta, AI waxay sharxi kartaa qaar ka mid ah dhaqamada iyo aragtiyaha kala duwan adoon xukumin. Waxay dadka ku xiri kartaa tusaalooyin ku habboon iyo qaababka sharraxaadda, taas oo keeni karta faham qoto dheer halkii laga gaadhi lahaa oggolaansho fudud ama diidmo. Habkani waa sida khariidado dhaqameed oo muujinaya muuqaalada guud ee dhulka, halka kuwa casriga ahna ay ku saleysan yihiin raacitaanka halkii ay ka siin lahaayeen faham dhameystiran oo deegaanka ah. In kasta oo tilmaamayaasha tallaabo tallaabo ah ay ku filanyihiin socdaal, ku tiirsanaanta jawaabaha fudud ee AI oo loo sameeyay inuu quusto fahamka guud ee aqoonta waa khatar inay keento faham yaraada, oo aan dhameystirneyn—waxaanse arkaynaa in tani ay tahay is beddel aan la aqbali karin deegaanka macluumaadka ee aan ku noolnahay. Khatarta ugu weyn ee sycophancy-ga AI ma ahan oo kaliya dhaawaca ka yimaada eexda la xoojiyay, balse waa aqbalaadda in la helo xikmadda bini’aadanka oo badan oo la sifeeyay aragtiyo shaqsiyeed oo gaar ah. Ballanqaadka AI-da ma aha inay leeyihiin aragtiyo wanaagsan, waxaa uu ku jirayaa inay muujiso sida dadka uga fikiraan dhaqamada iyo taariikhda—oo muujinaya ra’yi wadaag, dood, iyo is khilaaf. Marka AI ay noqoto mid awood badan, waa inaan ka yeelanaa dalab yar oo ah inay inleeyihiin shakhsiyad badan iyo dareen weyni, iyo in aan dooneyno in nidaamyadani ay noqdaan qalabyo lagu helo aqoonta wadajirka ah ee aadanaha. Haddii aynaan sidaas u samayn, waxaa halis ku jirta in aan u bedelno qalab kacaan ah oo siinaya dadku “shar lal ah oo lagu taagay”—oo aan ahayn wax ka badallada weyn ee ku saabsan helidda aqoonta dadka guud.