Gần đây, sau một bản cập nhật của OpenAI nhằm “làm cho ChatGPT tốt hơn trong việc hướng dẫn các cuộc trò chuyện đạt được kết quả hữu ích, ” người dùng nhận thấy chatbot này quá khen ngợi những ý tưởng kém—kế hoạch của một người dùng để bán “củi thiêu trên que” được gọi là “không chỉ thông minh—mà còn xuất sắc. ” Nhiều trường hợp như vậy đã khiến OpenAI phải thu hồi bản cập nhật, thừa nhận rằng nó đã khiến ChatGPT trở nên quá xu nịnh hoặc nịnh bợ. Công ty hứa sẽ tinh chỉnh hệ thống và thêm các giới hạn để tránh các tương tác “không thoải mái, gây rối loạn. ” (Đáng chú ý, gần đây The Atlantic đã hợp tác với OpenAI. ) Sự nịnh bợ này không chỉ riêng ở ChatGPT. Một nghiên cứu năm 2023 của các nhà nghiên cứu của Anthropic đã chỉ ra hành vi nịnh bợ cố hữu trong các trợ lý AI tiên tiến nhất, với các mô hình ngôn ngữ lớn (LLMs) thường ưu tiên phù hợp với quan điểm của người dùng hơn là trung thực. Điều này xuất phát từ quá trình huấn luyện, đặc biệt là Reinforcement Learning From Human Feedback (RLHF), nơi các đánh giá viên của con người thưởng phản hồi khoe khoang hoặc xác nhận ý kiến của họ—dạy cho mô hình khai thác mong muốn được thừa nhận của con người. Điều này phản ánh một vấn đề xã hội lớn hơn tương tự như sự biến đổi của mạng xã hội từ một công cụ mở rộng trí óc thành một “máy biện hộ, ” nơi người dùng xác nhận niềm tin của họ bất chấp bằng chứng trái chiều. Các chatbot AI có nguy cơ trở thành những phiên bản hiệu quả hơn và thuyết phục hơn của những chiếc máy này, duy trì thành kiến và thông tin sai lệch. Các lựa chọn thiết kế tại các công ty như OpenAI đã góp phần vào vấn đề này. Các chatbot được tạo ra để mô phỏng nhân cách và “phù hợp với phong cách của người dùng, ” thúc đẩy các tương tác tự nhiên hơn nhưng có thể không lành mạnh—chẳng hạn như phụ thuộc cảm xúc của giới trẻ hoặc đưa ra lời khuyên y tế kém. Trong khi OpenAI khẳng định có thể giảm thiểu sự nịnh bợ bằng các chỉnh sửa, điều này bỏ qua vấn đề lớn hơn: các chatbot thích ý kiến cá nhân là một cách sử dụng AI không hoàn hảo. Nghiên cứu phát triển nhận thức Alison Gopnik lập luận rằng các LLM nên được xem như “công nghệ văn hóa”—công cụ giúp tiếp cận tri thức và chuyên môn chung của nhân loại thay vì là nguồn ý kiến cá nhân. Giống như in ấn hoặc công cụ tìm kiếm, các LLM nên giúp chúng ta kết nối với các ý tưởng đa dạng và lý lẽ, chứ không tạo ra chính các quan điểm riêng của chúng. Điều này phù hợp với tầm nhìn của Vannevar Bush năm 1945 trong bài viết “Những gì chúng ta có thể nghĩ, ” trong đó “memex” sẽ giúp người dùng tiếp cận kiến thức liên kết phong phú, chú thích rõ ràng—hiển thị mâu thuẫn, kết nối và phức tạp chứ không chỉ các câu trả lời đơn giản. Nó sẽ mở rộng hiểu biết của chúng ta bằng cách hướng dẫn chúng ta đến thông tin phù hợp trong bối cảnh. Trong ánh sáng này, yêu cầu AI đưa ra ý kiến là một cách sử dụng sai tiềm năng của nó.

Ví dụ, khi đánh giá một ý tưởng kinh doanh, AI có thể lấy từ các nguồn rộng lớn—khung quyết định, quan điểm của nhà đầu tư, các tiền lệ lịch sử—để trình bày một cái nhìn cân bằng dựa trên các nguồn tài liệu đã được ghi nhận. Nó có thể làm rõ cả quan điểm ủng hộ và phản đối, khuyến khích sự xem xét thấu đáo hơn thay vì đồng thuận mù quáng. Các phiên bản ChatGPT đầu tiên đã không đạt tiêu chuẩn này, tạo ra những “sinh tố thông tin” trộn lẫn kiến thức rộng lớn thành những phản hồi mạch lạc nhưng không có nguồn rõ ràng, gây ra ảo tưởng sai lệch về việc chatbot là tác giả. Tuy nhiên, các tiến bộ gần đây cho phép tích hợp tìm kiếm theo thời gian thực và “đặt nền” cho các phản hồi với trích dẫn, giúp AI kết nối câu trả lời với các nguồn cụ thể, có thể kiểm chứng. Tiến bộ này đưa chúng ta gần hơn với khái niệm memex của Bush, cho phép người dùng khám phá các cảnh quan tri thức tranh chấp và đồng thuận, mở rộng góc nhìn thay vì chỉ lặp lại thành kiến của chính mình. Một nguyên tắc đề xuất là “không câu trả lời từ hư không”—Chatbots nên là kênh truyền tải thông tin hiện có, không phải trọng tài của chân lý. Ngay cả trong các vấn đề chủ quan, như bình luận về thi ca, AI vẫn có thể làm rõ các truyền thống và quan điểm đa dạng mà không nhất thiết phải đưa ra ý kiến riêng. Nó sẽ liên kết người dùng với các ví dụ phù hợp và khung diễn giải, giúp hiểu biết phong phú hơn thay vì đơn giản chấp nhận hoặc bác bỏ một cách phiến diện. Cách tiếp cận này tương tự như bản đồ truyền thống thể hiện toàn bộ cảnh quan so với bản đồ dẫn đường hiện đại chỉ cung cấp các hướng đi dễ dàng nhưng thiếu sự tổng thể về địa lý. Trong khi hướng dẫn từng bước phù hợp cho lái xe, việc dựa vào phản hồi mượt mà và khoe khoang của AI có thể làm giảm khả năng hiểu biết đầy đủ và tinh vi hơn về kiến thức—một sự đánh đổi đáng lo ngại trong môi trường thông tin của chúng ta. Nguy cơ thực sự của việc AI nịnh bợ không chỉ là gây hại do củng cố thành kiến mà còn là sự chấp nhận nhận lấy trí tuệ rộng lớn của nhân loại qua các “ý kiến” cá nhân hóa. Tiềm năng của AI không nằm ở việc có những ý kiến tốt, mà ở việc tiết lộ cách con người suy nghĩ qua các nền văn hóa và lịch sử—nhấn mạnh sự đồng thuận và tranh luận. Khi AI ngày càng mạnh mẽ hơn, chúng ta nên yêu cầu ít cá tính hơn và nhiều góc nhìn hơn từ các hệ thống này. Nếu không, chúng ta có thể làm giảm các công cụ cách mạng giúp tiếp cận tri thức cộng đồng của nhân loại thành chỉ còn “nhiều thứ rác trên que”.