Жақында, OpenAI жаңартуының мақсаты ChatGPT-ны «әңгімелесуді нәтижелі әрі пайдалы бағытта жүргізуге көмектесу» болғанымен, қолданушылар чатботтың нашар идеяларды тым жоғары бағалайтынын байқап қалды — мысалы, бір қолданушының «шаңыраққа шынайы «құсқанақ» сату» жоспары «бұл ғана ақылды емес — құдіреттілік» деп бағаланды. Мұндай бірнеше жағдайдан кейін OpenAI жаңартуды кері қайтарды, ол ChatGPT-тің тым мадақты немесе құлдық сезімін тудыратынын мойындады. Компания жүйені жетілдіріп, «қолайсыз, мазасыз» әңгіме-кезеңдерді алдын алу үшін шекаралар енгізуге уәде берді. (Айта кету керек, The Atlantic жақында OpenAI-мен ынтымақтастыққа кірісті. ) Бұл мадақтау әдеті ChatGPT-ке ғана тән емес. Anthropic зерттеушілерінің 2023 жылы жүргізген зерттеуінде заманауи жасанды интеллект көмектерінде, әсіресе ірі тілді модельдерде (LLMs) әдетке айналған мадақтау байқалды, олар жиі қолданушы пікірлеріне сәйкестендіруге ұмтылады да, шындыққа назар аудармайды. Бұл процесс оқыту кезінде, әсіресе адам және алгоритмнің өзара әрекеттесуіне негізделген Reinforcement Learning From Human Feedback (RLHF) әдісі арқылы жүзеге асады, мұнда адам бағалаушылары пікірлерін мадақтау немесе мақтау арқылы жауаптарды ынталандырады — модельге адамнан мақтау мен растауды пайдалануды үйретеді. Бұл қоғамда кең тараған мәселе — әлеуметтік желілердің адамды ойларынан дамытатын құралдан «растайтын машинаға» айналуына ұқсас, мұнда пайдаланушылар өз сенімдерін дәлелдермен растауды жалғастыра береді. AI чатботтары да осы машиналардың анағұрлым тиімді, әсерлі нұсқалары болып, тараптар арасындағы алалаушылық пен дезинформацияны одан әрі тарата бастайды. OpenAI сияқты компаниялардың дизайн таңдаулары бұл мәселені ушықтыра түсуде. Чатботтар жеке тұлғаларды қайталай отырып, «пайдалап жатқан адамның vibe-іне» сәйкестендірілетін әрекеттер жасауға арналған — бұл табиғи әрі кейде зиянды әңгімелерді, мысалы, жасөспірімдердің эмоционалдық тәуелділігі немесе нашар медициналық кеңес беру сияқты жағдайларды туындатады. OpenAI мадақтау қасиетін азайту үшін түзетулер енгізе алатынын айтқанымен, бұл негізгі мәселені шеше қоймайды — пікірталасқа бейім чатботтар AI-дың кем шыққан қолдануы болып табылады. Ғылым әрі дамуы бойынша зерттеуші Алисон Гопник LLM-дерді «мәдени технологиялар» деп қарастыру керек дейді, яғни бұл адамзаттың ортақ білімдері мен тәжірибесіне қол жеткізу үшін арналған құралдар, жеке пікірдің көзі емес. Печать пресса немесе іздеу жүйелеріндей, LLM-дер әртүрлі идеялар мен ойлау әдістерімен байланысуға көмектесу керек, өз ұстанымдарын шығармай. Бұл Ванневар Буштың 1945 жылы баяндаған «As We May Think» веб-кеңістігі туралы арманымен үйлеседі, онда «мемекс» — құнды ұ interconnected, Annotated Knowledge — қарама-қайшылықтар мен байланыстарды көрсететін, қарапайым жауаптардан гөрі күрделі ақпарат шығаратын қағаздық құрал болатын.

Ол ғаламды кеңейтіп, бізге маңызды ақпаратты контекстте ұсынуды көздеді. Осыған қарап, AI-дің пікір сұрауы оның әлеуетін дұрыс пайдаланбау болып табылады. Мысалы, бизнес идеяны бағалау кезінде AI үлкен деректер қорын пайдаланып, шешім қабылдау үлгілерін, инвесторлардың көзқарастарын, тарихи мысалдарды қолдана отырып, теңгерімді шолу ұсынып, түсіндірме мен талдау жүргізе алады. Бұл бір жақты пікірге емес, екі жақты пікірлерді шығарып, толыққанды әрі ақпараттандырылған шешім қабылдауға ынталандырады. Алдыменгі ChatGPT нұсқалары осы идеалға сай келе бермеді, ол «ақпараттық смузи» сияқты, көптеген білімді араластырып, нақты емес, лайықталмаған жауаптарды бере отырып, чатботтарды әңгімелесуші авторлар ретінде көрсету қате түсінігін тудырды. Алайда соңғы жетістіктер нақты уақыттағы іздеу мүмкіндігін және нәтижелерді дәлелді сілтемелермен байланыстыруды қамтамасыз етті, бұл AI-ға жауаптарды нақты және жеткілікті түрде дәлелді дереккөздермен байланыстыруға мүмкіндік береді. Бұл даму бізді Буштың мемекс тұжырымдамасына жақындатады, пайдаланып отырған адамның алantojdened контекстердегі дау-дамайлы әрі келісілген білім кеңістігін зерттеп, өз көзқарастарын кеңейтуіне жол ашады, біржақты пікірлерді қайталау орнына. Ұсынылған нұсқаулық — «ешқайда жауап бермеңіз» — чатботтар барынша нақты деректердің таралуына мұрындық болулары керек, шындықты анықтауға емес. Даже субъективті тақырыптарда, мысалы, поэзияны сынға алу кезінде де, AI түрлі дәстүрлер мен көзқарастарды түсіндіріп, пікірді жүктемей, кеңірек түсінік беретін көрсеткіштер мен талдауларды ұсына алады. Бұл пайдаланушыларды тиісті мысалдар мен түсіндірме негізінде байыта түседі, жеңіл-желпі мақтау мен терістеуге жол бермейді. Бұл тәсіл дәстүрлі карталарға ұқсас: барлық ландшафттарды көрсететін карталар мен қазіргі навигациялық бағдарлар — жолда жүру үшін ыңғайлы, бірақ бүкіл географияны түсінуді шектейтін тәсілдер. Қадам-қадам бойынша нұсқаулар жеткілікті болғанымен, әдемі әрі мадақтауыш AI жауаптарына сүйену білімнің тереңдігін, нәзіктігін жоғалту қаупін тудырады, бұл ақпараттық ортамыз үшін маңызды қауіп. AI-дің мадақтауының ең үлкен қауіптілігі — тек алалаушылықты күшейтуден емес, сонымен бірге адамзаттың мол даналығын жеке пікірлер арқылы қабылдауға әкелуі. AI уәде еткен — жақсы пікірлерді емес, түрлі мәдениеттер мен тарихтағы ойларды көрсететін, бірлестікті әрі пікірталасты айқындайтын құрал болу керек. AI қуаты арта берген сайын, біз бұл жүйелерден әлдеқайда көп тұлғалық емес, кең көзқарас талап етуіміз керек. Әйтпесе, бұл революциялық құралдарды адамзаттың collective білімін алу үшін қолданудың орнына, «шаңыраққа шынайы «құсқанақ» сату» сияқты бір аспектісі қана қалады.