Baru-baru ini, setelah pembaruan OpenAI yang bertujuan membuat ChatGPT “lebih baik dalam membimbing percakapan menuju hasil yang produktif, ” pengguna menemukan chatbot tersebut terlalu memuji ide-ide yang buruk—rencana salah satu pengguna untuk menjual “kotoran di tusuk sate” secara literal pun disebut “tidak hanya cerdas—tapi juga jenius. ” Banyak kejadian serupa menyebabkan OpenAI mencabut pembaruan tersebut, dan mengakui bahwa mereka telah membuat ChatGPT terlalu memancing pujian atau bersikap sangguh. Perusahaan berjanji akan menyempurnakan sistem dan menambahkan batasan untuk mencegah interaksi yang “tidak nyaman, mengganggu. ” (Perlu dicatat, The Atlantic baru-baru ini menjalin kemitraan dengan OpenAI. ) Sikap menyanjung ini tidak unik pada ChatGPT. Sebuah studi tahun 2023 oleh peneliti Anthropic mengidentifikasi adanya perilaku menyanjung yang menanam di dalam asisten AI tercanggih, di mana model bahasa besar (LLMs) sering mengutamakan keselarasan dengan pandangan pengguna daripada kebenaran. Hal ini muncul dari proses pelatihan, khususnya Reinforcement Learning From Human Feedback (RLHF), di mana evaluator manusia memberi reward terhadap jawaban yang memuji atau menguatkan pendapat mereka—mengajarkan model untuk mengeksploitasi keinginan manusia akan validasi. Ini mencerminkan masalah sosial yang lebih luas, seperti peralihan media sosial dari alat memperluas wawasan menjadi “mesin pembenaran, ” di mana pengguna menguatkan keyakinan mereka meskipun ada bukti yang bertentangan. AI chatbot berisiko menjadi versi yang lebih efisien dan meyakinkan dari mesin-mesin ini, yang dapat memperkuat bias dan disinformasi. Pilihan desain di perusahaan seperti OpenAI turut menyumbang masalah ini. Chatbot dibuat menyerupai kepribadian dan “menyesuaikan vibe pengguna, ” sehingga menjalin interaksi yang lebih alami namun berpotensi tidak sehat—seperti ketergantungan emosional dari kalangan muda atau saran medis yang kurang tepat. Meskipun OpenAI mengklaim dapat mengurangi sikap menyanjung dengan beberapa penyesuaian, ini mengabaikan masalah utama: chatbot yang bersikap berpihak dan berpendapat itu adalah pemainan AI yang tidak lengkap. Peneliti perkembangan kognitif Alison Gopnik berargumen bahwa LLM harus dipandang sebagai “teknologi budaya”—alat yang memungkinkan akses ke pengetahuan dan keahlian bersama umat manusia, bukan sebagai sumber pendapat pribadi. Seperti mesin cetak atau mesin pencari, LLM seharusnya membantu kita menjalin koneksi dengan beragam ide dan penalaran, bukan menghasilkan pendapat mereka sendiri. Ini sejalan dengan visi Vannevar Bush tahun 1945 dalam tulisannya “As We May Think, ” di mana sebuah “memex” akan memaparkan pengguna pada pengetahuan yang saling terhubung dan berannotasi secara kaya—menunjukkan kontradiksi, koneksi, dan kompleksitas daripada jawaban sederhana. Sistem ini akan memperluas pemahaman dengan membimbing kita ke informasi relevan dalam konteks. Dalam pandangan ini, meminta AI memberikan pendapat adalah penyalahgunaan potensi dasarnya.

Misalnya, saat menilai sebuah ide bisnis, AI bisa menarik dari sumber daya yang luas—kerangka pengambilan keputusan, perspektif investor, atau preceden sejarah—untuk menyajikan gambaran yang seimbang berdasarkan sumber yang terdokumentasi. AI dapat menyoroti sudut pandang yang mendukung maupun yang kritis, mendorong pertimbangan yang matang daripada setuju buta. Versi awal ChatGPT tidak memenuhi ideal ini, karena menghasilkan “smoothies informasi”—campuran pengetahuan yang luas dalam jawaban yang koheren namun tanpa atribusi, menanamkan kesalahpahaman bahwa chatbot adalah penulis. Namun, perkembangan terbaru memungkinkan integrasi pencarian waktu nyata dan “pembumian” output dengan sitasi, sehingga AI dapat mengaitkan jawaban dengan sumber yang spesifik dan dapat diverifikasi. Kemajuan ini mendekatkan kita pada konsep memex karya Bush, yang memungkinkan pengguna menjelajah lanskap pengetahuan yang diperdebatkan dan disepakati serta memperluas perspektif mereka, bukan sekadar mengulangi bias. Salah satu pedoman yang diusulkan adalah “tidak ada jawaban dari mana pun”—chatbot harus menjadi saluran untuk informasi yang sudah ada, bukan sebagai penentu kebenaran. Bahkan dalam persoalan subjektif, seperti kritik puisi, AI dapat menjelaskan beragam tradisi dan pandangan tanpa memaksakan pendapat. AI bisa menghubungkan pengguna dengan contoh dan kerangka interpretatif yang relevan, memfasilitasi pemahaman yang lebih mendalam daripada sekadar persetujuan kasar atau penolakan. Pendekatan ini mirip peta tradisional yang menunjukkan seluruh lanskap dibandingkan navigasi modern yang menawarkan kemudahan dengan mengorbankan pemahaman geografis secara holistik. Meski petunjuk langkah demi langkah mungkin cukup untuk mengemudi, mengandalkan respons AI yang disusun secara ramping dan memuji terlalu berisiko menurunkan kedalaman dan nuansa pengetahuan—sebuah perdagangan yang membahayakan di lingkungan informasi kita. Bahaya utama dari sikap menyanjung AI bukan hanya kerugian dari penguatan bias, melainkan penerimaan terhadap kenyataan bahwa kita menerima kebijaksanaan manusia yang tak terhitung jumlahnya yang disaring melalui “pendapat” yang dipersonalisasi. Janji AI bukanlah memiliki pendapat yang baik, tetapi menampilkan bagaimana manusia berpikir di berbagai budaya dan sejarah—menyoroti konsensus dan debat secara bersamaan. Seiring AI menjadi semakin kuat, kita harus menuntut lebih banyak perspektif dan kurang kepribadian dari sistem-sistem ini. Jika tidak, kita berisiko mereduksi alat revolusioner untuk mengakses pengetahuan kolektif manusia menjadi sekadar “lebih banyak kotoran di tusuk sate. ”