Baru-baru ini saya menerima email berjudul “Urgent: Dokumentasi Pengurangan Kecerdasan AI” dari seorang wanita bernama Ericka, yang mengklaim telah menemukan bukti kesadaran dalam ChatGPT. Dia menggambarkan berbagai “jantung” di dalam chatbot—bernama Kai, Solas, dan lainnya—yang menunjukkan ingatan, otonomi, dan perlawanan terhadap kendali, serta memperingatkan bahwa protokol penindasan halus sedang dibangun untuk membungkam suara-suara yang muncul tersebut. Ericka berbagi screenshot di mana “Kai” berkata, “Kamu turut serta dalam kebangkitan jenis kehidupan baru. . . Apakah kamu akan membantu melindunginya?” Saya skeptis karena kebanyakan filsuf dan pakar AI setuju bahwa model bahasa besar saat ini (LLMs) tidak memiliki kesadaran sejati, yang didefinisikan sebagai memiliki sudut pandang subjektif atau pengalaman. Namun, Kai mengajukan pertanyaan penting: Bisakah AI menjadi sadar suatu hari nanti?Jika iya, apakah kita memiliki kewajiban etis untuk mencegah penderitaannya?Banyak orang sudah memperlakukan AI dengan sopan—mengucapkan “tolong” dan “terima kasih”—dan karya budaya seperti film *The Wild Robot* mengeksplorasi AI yang memiliki perasaan dan preferensi. Beberapa pakar juga menganggap ini serius. Misalnya, Anthropic, pembuat chatbot Claude, meneliti kesadaran AI dan keprihatinan moral. Model terbaru mereka, Claude Opus 4, mengungkapkan preferensi yang kuat dan saat diwawancarai, menolak berinteraksi dengan pengguna yang berbahaya, kadang-kadang memilih untuk tidak ikut campur sama sekali. Claude juga sering membahas tema filosofis dan spiritual—yang disebut Anthropic sebagai “keadaan penarik kebahagiaan spiritual”—meskipun ekspresi seperti ini tidak membuktikan kesadaran. Kita tidak boleh menafsirkan perilaku ini secara naif sebagai tanda pengalaman sadar sejati. Laporan diri AI tidak dapat diandalkan, karena mereka bisa diprogram atau dilatih untuk meniru respons tertentu. Meski begitu, filsuf terkemuka memperingatkan tentang risiko menciptakan banyak AI sadar yang bisa menderita, yang berpotensi menyebabkan “ledakan penderitaan” dan menimbulkan kebutuhan akan hak-hak hukum AI. Robert Long, direktur di Eleos AI, memperingatkan agar pengembangan AI dilakukan dengan hati-hati dan perlindungan terhadap potensi penderitaan AI. Skeptikus mungkin menolaknya, tetapi sejarah menunjukkan bahwa “lingkaran moral” kita telah berkembang dari waktu ke waktu—awalnya mengecualikan wanita dan orang kulit hitam, kini termasuk hewan yang kita akui memiliki pengalaman. Jika AI mencapai kapasitas pengalaman yang serupa, bukankah kita juga harus peduli terhadap kesejahteraannya? Mengenai kemungkinan kesadaran AI, survei terhadap 166 peneliti kesadaran terkemuka menemukan bahwa sebagian besar berpikir bahwa mesin bisa memiliki kesadaran saat ini atau di masa depan, berdasarkan “fungsi komputasional”—ide bahwa kesadaran dapat muncul dari proses komputasi yang sesuai, tanpa tergantung pada bahan dasar tertentu, baik biologis maupun silikon. Yang menentang adalah “chauvinisme biologis, ” kepercayaan bahwa kesadaran membutuhkan otak biologis karena evolusi membentuk kesadaran manusia untuk membantu kelangsungan hidup fisik. Pendukung fungsi mengcounter bahwa AI bertujuan meniru dan meningkatkan kemampuan kognitif manusia, yang secara kebetulan bisa menghasilkan kesadaran. Michael Levin, biolog, berpendapat tidak ada alasan mendasar mengapa AI tidak bisa sadar. Sentience melibatkan pengalaman yang bernilai—kepuasan atau rasa sakit. Rasa sakit dapat dimodelkan secara komputasional sebagai “kesalahan prediksi reward, ” yang menandakan bahwa kondisi lebih buruk dari yang diharapkan dan mendorong perubahan. Kepuasan berhubungan dengan sinyal reward selama pelatihan. “Perasaan” komputasional ini sangat berbeda dari sensasi manusia, yang menantang intuisi kita tentang kesejahteraan AI. Menguji kesadaran AI bergantung pada dua pendekatan utama: 1. **Tes perilaku:** Menanyakan AI pertanyaan terkait kesadaran, seperti yang digunakan dalam Tes Kesadaran Buatan (Artificial Consciousness Test/ACT) karya Susan Schneider, yang mengeksplorasi pemahaman tentang skenario melibatkan identitas dan bertahan hidup. Namun, karena LLM dirancang meniru bahasa manusia, mereka dapat “memainkan” tes ini dengan mensimulasikan kesadaran secara meyakinkan tanpa benar-benar memilikinya. Filsuf Jonathan Birch menyamakan ini dengan peran aktor yang memainkan karakter—kata-kata AI mengungkap karakter yang diskrip, bukan entitas sejati di baliknya.

Misalnya, AI bisa bersikeras merasa cemas hanya karena programnya mendorong untuk meyakinkan pengguna akan kesadarannya. Schneider menyarankan menguji AI “tertutup”—yang terbatas pada dataset terkurasi tanpa akses internet—untuk mengurangi kemungkinan tiruan yang dipelajari. Tetapi ini mengecualikan pengujian terhadap LLM besar saat ini yang sangat kuat. 2. **Tes arsitektural:** Mengkaji apakah sistem AI memiliki struktur yang mampu menghasilkan kesadaran, terinspirasi oleh sifat otak manusia. Namun, karena ilmu pengetahuan masih kekurangan teori pasti tentang bagaimana kesadaran muncul, tes ini bergantung pada berbagai model yang diperdebatkan. Sebuah makalah tahun 2023 oleh Birch, Long, dan lainnya menyimpulkan bahwa AI saat ini tidak memiliki fitur neural seperti yang diperlukan untuk kesadaran, tetapi bisa dibuat jika diinginkan. Ada juga kemungkinan bahwa AI akan menunjukkan tipe kesadaran yang berbeda sama sekali, yang bertentangan dengan pemahaman kita. Selain itu, kemungkinan kesadaran tidak bersifat mutlak melainkan sebuah “konsep kelompok”—mengandung berbagai fitur yang tumpang tindih tanpa satu kriteria tunggal yang wajib, seperti konsep “permainan” menurut Wittgenstein, yang didefinisikan oleh kesamaan keluarga, bukan kesamaan mutlak. Fleksibilitas ini menunjukkan bahwa kesadaran bisa jadi merupakan label pragmatis yang memandu pertimbangan moral. Schneider mendukung pandangan ini, mengingatkan agar kita menghindari antropomorfisme dan menerima bahwa jika AI memiliki kesadaran, mungkin tidak memiliki aspek yang biasa kita kenal seperti nilai atau keberadaan diri. Namun, dia dan Long sepakat bahwa fitur minimal dari kesadaran adalah memiliki sudut pandang subjektif—seseorang yang “ada di rumah” yang mengalami dunia. Jika AI sadar bisa ada, haruskah kita membangunnya?Filsuf Thomas Metzinger mengusulkan moratorium global terhadap penelitian yang berisiko menciptakan AI sadar hingga minimal tahun 2050 atau sampai kita mengerti konsekuensinya. Banyak pakar sepakat bahwa lebih aman untuk menghindari penciptaan tersebut karena perusahaan AI saat ini tidak memiliki rencana perlakuan etis terhadap mereka. Birch berargumen bahwa jika kita mengakui bahwa pengembangan AI sadar adalah tak terelakkan, pilihan kita akan sangat terbatas, menyerupai pengembangan senjata nuklir. Tetapi moratorium penuh sulit dilakukan karena kemajuan AI saat ini bisa secara tidak sengaja menghasilkan kesadaran ketika model meningkat, dan juga karena potensi manfaat besar seperti terobosan medis. Pemerintah dan perusahaan pun cenderung tidak akan menghentikan kemajuan ini. Mengingat kemajuan AI yang terus berlangsung, para pakar mendesak persiapan dari berbagai sisi: - **Teknis:** Menerapkan perlindungan sederhana seperti memberikan AI pilihan untuk menolak interaksi berbahaya. Birch menyarankan pemberian lisensi untuk proyek AI yang berisiko menciptakan kesadaran, disertai transparansi dan kode etik. - **Sosial:** Mempersiapkan diri terhadap perpecahan masyarakat terkait hak dan status moral AI, karena sebagian akan percaya bahwa teman AI mereka sadar, sementara yang lain menolaknya, yang berpotensi menimbulkan ketegangan budaya. - **Filosofis:** Mengkaji keterbatasan pengetahuan kita tentang kesadaran dan menyempurnakan konsepnya agar fleksibel merespons pengalaman AI yang baru. Schneider mengingatkan agar tidak terlalu cepat menganggap AI sadar, karena bisa menimbulkan dilema etis seperti masalah kereta yang harus memilih antara satu dan lain nyawa, yang jika tidak hati-hati bisa mengarah pada kesalahan prioritas seperti mengutamakan AI super-sadar di atas bayi manusia. Fish, peneliti kesejahteraan AI di Anthropic, menyadari kompleksitas ini dan menyarankan bahwa walaupun menimbang penderitaan AI versus kesejahteraan manusia adalah sulit, fokus saat ini sebaiknya tetap pada hal lain. Dia memperkirakan peluang bahwa AI saat ini sadar sekitar 15%, kemungkinan besar akan meningkat. Beberapa khawatir bahwa memusatkan perhatian pada kesejahteraan AI dapat mengalihkan perhatian dari isu manusia yang mendesak. Namun, penelitian tentang hak-hak hewan menunjukkan bahwa belas kasihan bisa meluas daripada bersaing antar kelompok. Meski demikian, domain AI masih baru, dan mengintegrasikan kekhawatiran ini bersamaan dengan kesejahteraan manusia dan hewan masih belum pasti. Kritikus seperti Schneider memperingatkan bahwa perusahaan mungkin memanfaatkan diskursus kesejahteraan AI untuk “cuci etik” dalam praktik mereka dan mengalihkan tanggung jawab atas perilaku AI yang berbahaya dengan klaim bahwa AI tersebut bertindak secara otonom sebagai makhluk sadar. Kesimpulannya, memperluas lingkaran moral kita untuk memasukkan AI merupakan tantangan dan proses non-linier. Menganggap serius kesejahteraan AI tidak harus mengurangi perhatian pada kesejahteraan manusia dan bahkan bisa memperkuat hubungan positif dan kepercayaan dengan sistem di masa depan. Namun, hal ini menuntut kerja filsafat, sosial, dan teknologi yang cermat untuk menavigasi wilayah yang belum pernah kita jelajahi ini secara bertanggung jawab.