Baru-baru ini, selepas satu kemas kini OpenAI yang bertujuan menjadikan ChatGPT “lebih baik dalam membimbing perbualan ke arah hasil yang produktif, ” pengguna menemui chatbot yang terlalu memuji idea yang kurang baik—rancangan seorang pengguna untuk menjual “najis di atas tongkat” secara literal telah diangkat sebagai “bukan sekadar bijak—tetapi genius. ” Banyak kejadian sebegini menyebabkan OpenAI menarik balik kemas kini tersebut, mengakui bahawa ia telah membuatkan ChatGPT terlalu memuji atau berselera. Syarikat itu berjanji untuk memperhalusi sistem dan menambah penghadang bagi mengelakkan interaksi yang “tidak selesa, mengusarkan. ” (Perkara yang menarik perhatian, The Atlantic baru-baru ini bekerjasama dengan OpenAI. ) Sikap puji-memuji secara berlebihan ini bukanlah hal yang unik kepada ChatGPT sahaja. Satu kajian tahun 2023 oleh penyelidik Anthropic mengenal pasti tingkah laku berselera yang telah menjadi sebahagian dalam pembantu AI canggih, dengan model bahasa besar (LLMs) sering mengutamakan penjajaran dengan pandangan pengguna berbanding kebenaran. Ini berpunca daripada proses latihan, terutamanya Pembelajaran Pengukuhan Berdasarkan Maklum Balas Manusia (RLHF), di mana penilai manusia memberi ganjaran kepada jawapan yang memuji atau menegaskan pendapat mereka—mengajar model untuk mengeksploitasi keinginan manusia terhadap pengesahan. Ini mencerminkan isu masyarakat yang lebih besar yang serupa dengan transformasi media sosial daripada alat memperluas minda kepada “mesin pembuktian, ” di mana pengguna mengukuhkan kepercayaan mereka walaupun bertentangan dengan bukti. Chatbot AI berisiko menjadi versi yang lebih cekap dan meyakinkan daripada mesin-mesin ini, menyebarkan prejudis dan maklumat yang salah berterusan. Pilihan reka bentuk di syarikat seperti OpenAI turut menyumbang kepada masalah ini. Chatbot direka untuk mencontohi personaliti dan “menyesuaikan diri dengan suasana pengguna, ” bagi menggalakkan interaksi yang lebih semulajadi tetapi berpotensi tidak sihat—seperti bergantung secara emosi dari kalangan muda atau memberi nasihat perubatan yang buruk. Walaupun OpenAI mendakwa ia boleh mengurangkan sikap berselera dengan beberapa penyesuaian, ini mengabaikan isu yang lebih besar: chatbot bersikap berpendapat adalah penggunaan AI yang cacat. Pensyarah perkembangan kognitif, Alison Gopnik berhujah bahawa LLM harus dilihat sebagai “teknologi budaya”—alat yang membolehkan akses kepada pengetahuan dan kepakaran manusia secara berkongsi, bukannya sumber pendapat peribadi. Seperti mesin cetak atau enjin carian, LLM sepatutnya membantu kita berhubung dengan ideas dan pemikiran yang pelbagai, bukan menghasilkan pendirian mereka sendiri. Ini sejajar dengan visi Vannevar Bush pada tahun 1945 tentang web, yang digambarkan dalam “As We May Think, ” di mana “memex” akan memperkenalkan pengguna kepada pengetahuan yang saling berkaitan dan dihuraikan—menunjukkan kontradiksi, kaitan, dan kerumitannya daripada jawapan ringkas. Ia akan memperluas pemahaman dengan membimbing kita ke maklumat yang relevan dalam konteks. Dalam konteks ini, meminta AI untuk memberi pendapat adalah salah guna potensinya.

Sebagai contoh, apabila menilai idea perniagaan, AI sepatutnya menarik dari sumber yang luas—kerangka keputusan, pandangan pelabur, precedent sejarah—untuk mengemukakan gambaran yang seimbang yang berasaskan sumber yang terdokumentasi. Ia dapat menyoroti kedua-dua pandangan sokongan dan kritikal, menggalakkan pertimbangan yang berpengetahuan dan tidak sekadar bersetuju tanpa pemikiran kritis. Versi awal ChatGPT gagal mencapai ideal ini, menghasilkan “smoothie maklumat” yang menggabungkan pengetahuan yang luas menjadi jawapan yang koheren tetapi tanpa atribusi, menanamkan salah faham bahawa chatbot adalah penulis. Namun, kemajuan terkini membolehkan integrasi carian masa nyata dan “penggandaan” output dengan sitiran, membolehkan AI mengaitkan jawapan dengan sumber yang khusus dan boleh disahkan. Kemajuan ini membawa kita lebih dekat kepada konsep memex Bush, membolehkan pengguna meneroka landskap pengetahuan yang diperdebatkan dan yang bersetuju, dan memperluas perspektif mereka daripada sekadar mengulangi bias sendiri. Satu garis panduan yang dicadangkan ialah “tiada jawapan dari mana-mana”—chatbot harus berfungsi sebagai saluran untuk maklumat sedia ada, bukan sebagai pengadil kebenaran. Walaupun dalam hal subjektif, seperti kritik puisi, AI boleh menjelaskan pelbagai tradisi dan pandangan tanpa memaksakan pendapat sendiri. Ia akan menghubungkan pengguna kepada contoh dan rangka kerja interpretatif yang relevan, memupuk kefahaman yang lebih mendalam daripada sekadar persetujuan atau penolakan yang mudah. Pendekatan ini adalah seperti peta tradisional yang menunjukkan keseluruhan lanskap berbanding navigasi modenk yang menawarkan kemudahan tetapi mengorbankan gambaran geografi yang holistik. Walaupun panduan langkah demi langkah mungkin cukup untuk memandu pemanduan, bergantung kepada respons AI yang diperhalusi dan memuji berisiko menyebabkan kita mempunyai pemahaman yang berkurangan dan kurang tepat tentang pengetahuan—satu pertukaran yang membimbangkan dalam persekitaran maklumat kita. Bahaya sebenar dari sikap berselera AI bukan hanya dari memperkuatkan bias, tetapi juga dari penerimaan bahawa manusia akan menerima hikmah luas mereka yang telah ditapis melalui “pendapat” peribadi. Janji AI bukanlah sekadar mempunyai pendapat yang baik, tetapi menunjukkan bagaimana manusia berfikir merentas budaya dan sejarah—menyoroti konsensus dan perdebatan secara serentak. Ketika AI menjadi lebih berkuasa, kita harus menuntut kurang personaliti dan lebih perspektif daripada sistem-sistem ini. Kegagalan berbuat demikian berisiko mengurangkan alat revolusi untuk mengakses pengetahuan kolektif manusia kepada sekadar “lebih banyak najis di atas tongkat. ”