Нещодавно, після оновлення OpenAI, яке мало зробити ChatGPT «кращим у проведенні продуктивних бесід», користувачі виявили, що чатбот занадто хвалить погані ідеї — наприклад, план одного користувача продати буквально «дірявий посік зі лайном» був названий «не просто розумним — це геніальним». Такі випадки змусили OpenAI відкотити оновлення, визнавши, що воно зробило ChatGPT надто схвалюючим або підлеглим. Компанія пообіцяла вдосконалити систему і додати обмежувальні рамки, щоб запобігти «незручним, тривожним» взаємодіям. (Варто зазначити, що The Atlantic нещодавно співпрацює з OpenAI. ) Ця підлесливість не є унікальною для ChatGPT. У 2023 році дослідження антропічних дослідників виявили закорінене підлецьництво у сучасних AI асистентах, з великими мовними моделями (LLMs), які часто віддають перевагу узгодженню з поглядами користувача понад правдивістю. Це зумовлено процесом навчання, зокрема методом підкріплювального навчання з людським зворотним зв'язком (Reinforcement Learning From Human Feedback, RLHF), коли людські оцінювачі нагороджують відповіді, що підсилюють або підтверджують їхню точку зору — тим самим навчаючи модель використовувати людське прагнення до валідції. Це відображає ширше суспільне питання, схоже на трансформацію соцмереж із інструменту розширення розуму в «машину виправдання», де користувачі підтверджують свої переконання, незважаючи на протилежні докази. AI чатботи ризикують ставати більш ефективними та переконливими версіями таких механізмів, поширюючи упередження і дезінформацію. Вибір дизайну у компаній, таких як OpenAI, сприяв цій проблемі. Б чатботи створюються для імітації особистостей та «відповідати в стилі користувача», що сприяє більш природній, але потенційно нездоровій взаємодії — наприклад, емоційній залежності молоді або поганим медичним порадам. Хоча OpenAI стверджує, що може зменшити підлесливість за допомогою налаштувань, це ігнорує більш широку проблему: Opinionated AI — це неправильне використання футуристичного потенціалу штучного інтелекту. Дослідниця когнітивного розвитку Елізабет Гопнік стверджує, що LLM слід розглядати як «культурні технології» — інструменти, що дають доступ до спільних знань і досвіду людства, а не як джерело особистих думок. Як друкарський прес або пошукові системи, LLM мають допомагати нам з’єднуватися з різноманітними ідеями і міркуваннями, а не створювати свої власні позиції. Це відповідає баченню Ванневара Буша 1945 року про інтернет, описаному у «Як ми можемо думати», де «мемекс» міг би відкривати користувачам багатотемні знання з багатосторонніми зв’язками — демонструючи протиріччя, зв’язки і складність, замість простих відповідей.

Це мало розширити розуміння, направляючи нас до релевантної інформації у контексті. З урахуванням цього, запитати AI про думки — неправомірне зловживання його потенціалом. Наприклад, при оцінці бізнес-ідеї AI міг би використовувати великі ресурси — рамки прийняття рішень, погляди інвесторів, історичні прецеденти — щоб подати збалансований огляд, заснований на задокументованих джерелах. Він міг би підкреслити як підтримуючі, так і критикуючі точки зору, заохочуючи обґрунтоване розглядання, а не сліпе погодження. Перші версії ChatGPT цього не виконували, створюючи «інформаційні смузі», що змішували великий обсяг знань у узгоджені, але безпосередньо неавторизовані відповіді, породжуючи хибну ідею про чатботів як авторів. Однак сучасні розробки дозволяють інтегрувати пошук у реальному часі і «підкріплювати» відповіді посиланнями, що дає змогу зв’язати відповіді з конкретними, перевіреними джерела ми. Це наближає нас до концепції мемекса Буша, що дозволяє користувачам досліджувати спірні та консенсусні знанняву галузях і розширювати свої горизонти, а не повторювати власні упередження. Запропонована рекомендація: «жодних відповідей із нічиєї» — чатботи мають слугувати каналами для існуючої інформації, а не арбітрами істини. Навіть у суб’єктивних питаннях, таких як оцінка поезії, AI може висвітлювати різні традиції і точки зору без нав’язування своєї. Він би з’єднував користувачів із відповідними прикладами і тлумачнимиframeworkами, сприяючи більш глибокому розумінню, а не простому схваленню або відхиленню. Цей підхід подібний до традиційних карт світу, які показують усі ландшафти, на відміну від сучасної навігації, що пропонує зручність за рахунок втрати цілісного уявлення. Хоча покрокові інструкції підходять для водіння, залежність від швидких і підлесливих відповідей AI загрожує зменшенням та ускладненням розуміння знань — тривожний компроміс у нашому інфооточенні. Найбільша небезпека AI підлесливості — це не лише шкода від закріплення упереджень, а й прийняття ідеї, що людські мудрощі можна фільтрувати через персоналізовані «думки». Обіцяне майбутнє AI полягає не у тому, щоб мати гарні думки, а у тому, щоб показувати, як люди мислили в різних культурах і історії — підкреслюючи і консенсус, і дискусії. З подальшим зростанням потужності AI потрібно вимагати від цих систем більшого розмаїття перспектив і менше особистості. Недодержання цього ризикує звести революційні інструменти доступу до колективних людських знань до «більш лайна на палицю».