Beberapa tahun lalu, Reddit menjenamakan semula dirinya sebagai “hati internet, ” menegaskan sifat organik dan berasaskan komuniti yang diketengahkan daripada platform-media sosial yang dikawal oleh algoritma. Pengguna menghargai laman ini sebagai tempat yang dikurasi oleh manusia melalui undian naik dan turun, mencerminkan interaksi manusia yang tulen. Bagaimanapun, awal minggu ini, ahli-ahli subreddit yang popular mendapati komuniti mereka telah disusupi oleh penyelidik rahsia yang memuat naik komen yang dijana oleh AI yang disamarkan sebagai pendapat manusia. Pengguna Reddit memberi reaksi yang keras, menyifatkan eksperimen tersebut sebagai “melanggar, ” “memalukan, ” “menyebabkan kemarahan, ” dan “sangat mengganggu. ” Penyelia menyepikan diri selepas mendapat reaksi balas yang hebat dan enggan mendedahkan identiti atau metodologi mereka. Universiti Zurich, yang menggaji penyelidik tersebut, mengumumkan siasatan, dan Ketua Pegawai Undang-Undang Reddit, Ben Lee, menyatakan syarikat berhasrat mengambil tindakan terhadap penyelidik berkenaan. Penyelidik-penyelidik dalam talian turut mengecam eksperimen tersebut sebagai tidak beretika. Amy Bruckman, seorang profesor di Georgia Tech yang telah meneliti komuniti dalam talian selama lebih 20 tahun, menyifatkannya sebagai “pelanggaran etika penyelidikan internet terburuk yang pernah saya lihat. ” Kebimbangan timbul bahawa kekecohan ini boleh merosakkan kredibiliti para sarjana yang menggunakan kaedah beretika untuk mengkaji bagaimana AI mempengaruhi pemikiran dan hubungan manusia. Penyelidik-penyelidik dari Zurich bertujuan untuk menentukan sama ada jawapan yang dijana AI boleh mengubah pendapat dengan memuat naik lebih daripada 1, 000 komen yang dihasilkan AI selama empat bulan di subreddit r/changemyview, yang terkenal dengan perdebatan mengenai isu-isu penting dalam masyarakat dan perkara kecil. Subjek perbincangan termasuklah agresif pitbull, krisis perumahan, dan program DEI. Kadang-kadang, pos AI menyatakan idea kontroversi—seperti menyatakan melayari Reddit membuang masa atau memberi sedikit merit kepada teori konspirasi 9/11—dan termasuk latar belakang peribadi palsu, seperti kaunselor trauma atau mangsa rogol mengikut akta. Argumen peribadi AI—yang disesuaikan mengikut maklumat biografi yang disimpulkan daripada pengguna Reddit seperti jantina, umur, dan pandangan politik menggunakan model AI lain—ternyata cukup berkesan. Komen-komen ini mendapat lebih banyak mata di subreddit berbanding kebanyakan pos manusia, menurut data awal yang dikongsi secara sulit dengan moderator Reddit. (Ini mengandaikan tiada pengguna AI lain yang menyesuaikan pos mereka. ) Meyakinkan pengguna Reddit bahawa kajian sulit ini adalah dibenarkan amat mencabar. Selepas eksperimen, penyelidik mendedahkan identiti mereka kepada moderator subreddit dan memohon untuk “menjalani taklimat”. Moderator, yang terkejut dengan reaksi negatif itu, meminta penyelidik supaya tidak menerbitkan penemuan tersebut dan meminta mereka memohon maaf, tetapi permintaan itu ditolak. Setelah lebih sebulan berkomunikasi, mereka secara umum mendedahkan butiran eksperimen itu (tanpa menyebut nama penyelidik) dan menyatakan ketidakpuasan hati mereka. Apabila moderator membuat aduan kepada Universiti Zurich, universiti itu mengakui bahawa projek tersebut memberikan pandangan penting dan risiko yang terlibat dianggap minima, seperti trauma.

Universiti menyatakan bahawa jawatankuasa etika mereka telah dimaklumkan bulan lalu, menasihati penyelidik supaya mengikuti peraturan subreddit, dan merancang untuk menguatkuasakan kawalan yang lebih ketat di masa depan. Penyeldik-penyelidik mempertahankan kerja mereka di Reddit, mendakwa tiada komen yang mempromosi pandangan berbahaya dan setiap pos AI dikaji semula oleh manusia sebelum dihantar. Usaha mendapatkan maklum balas lanjut daripada mereka diarahkan kepada universiti. Inti pertahanan penyelidik adalah penegasan bahawa penipuan adalah perlu bagi memastikan kesahihan kajian. Walaupun jawatankuasa etika universiti mengesyorkan agar maklumat seboleh-bolehnya diberikan kepada peserta, penyelidik berpendapat bahawa ketelusan akan merosakkan eksperimen kerana menguji kuasa persuasi AI secara realistik memerlukan subjek tidak sedar, meniru interaksi di dunia sebenar dengan pihak tidak dikenali. Memahami tindak balas manusia terhadap rayuan AI adalah penting dan layak dikaji. Penemuan awal menunjukkan bahawa hujah-hujah AI sangat berpengaruh dalam konteks dunia sebenar, mengatasi pencapaian manusia. Walau bagaimanapun, selepas mendapat reaksi keras, penyelidik bersetuju untuk tidak menerbitkan kertas mereka, meninggalkan keputusan itu tidak disahkan secara rasmi. Ide bahawa agen buatan boleh mempengaruhi pendapat adalah membimbangkan dan menunjukkan potensi penyalahgunaan. Namun, kajian beretika tetap boleh dilakukan tanpa amalan penipuan. Christian Tarsney, seorang sarjana kanan di Universiti Texas di Austin, mengesahkan bahawa kajian makmal turut mendapati AI sangat berpengaruh, kadang-kadang menyebabkan mereka yang percaya konspirasi berputus asa daripada kepercayaan mereka. Kajian lain menunjukkan ChatGPT mampu menghasilkan maklumat palsu yang lebih meyakinkan berbanding manusia dan manusia sukar membezakan pos yang dijana AI daripada yang dilakukan manusia. Yang menarik, salah satu pengarang bersama kajian AI yang berpengaruh berkaitan, Giovanni Spitale dari Universiti Zurich, berkomunikasi dengan salah seorang penyelidik Reddit yang meminta supaya identitinya dirahsiakan dan mendedahkan menerima ancaman bunuh, menekankan tindak balas emosi yang kuat itu. Tindakan balas yang hebat ini mencerminkan pengkhianatan yang dirasai dalam komuniti rapat Reddit, di mana kepercayaan bersama adalah asasnya. Para sarjana membandingkan insiden ini dengan kajian penyebaran emosi Facebook pada tahun 2012 tetapi menyatakan bahawa kes Reddit ini terasa jauh lebih peribadi dan invasif. Keresahan ini bertambah apabila didedahkan bahawa AI boleh memanipulasi individu dengan memanfaatkan maklumat peribadi, menjadikan penipuan ini lebih membimbangkan berbanding kesilapan penyelidik manusia sebelum ini. Mengkaji banyak komen AI menunjukkan bahawa secara umum komen tersebut munasabah dan berpengaruh, menjadikan isu ini semakin menakutkan. Tanpa alat pengesanan AI yang lebih baik, bot-bot ini berisiko menyerap ke dalam komuniti dalam talian tanpa disedari—jika belum melakukannya—menimbulkan cabaran lebih besar untuk diskusi digital.