Pada 12 Mei 2025, delegasi dari berbagai negara di seluruh dunia berkumpul di markas besar Perserikatan Bangsa-Bangsa di New York untuk membahas isu kritis dan mendesak dalam peperangan kontemporer: regulasi sistem senjata otonom yang didukung oleh kecerdasan buatan. Senjata canggih ini, yang mampu mengidentifikasi dan menyerang target tanpa input manusia, semakin banyak digunakan di zona konflik seperti Ukraina dan Gaza, memicu perdebatan mendalam mengenai etika, hukum, dan keamanan secara global. Meskipun progres dan penggunaan senjata berbasis AI ini cepat berkembang, komunitas internasional masih kekurangan kesepakatan mengikat yang komprehensif untuk mengatur penempatan dan operasinya. Sejak 2014, diskusi dalam Konvensi tentang Senjata Konvensional (CCW)—sebuah traktat multilateral yang mengawasi pembatasan atau pelarangan terhadap beberapa jenis senjata konvensional—telah menjadi platform utama untuk upaya melarang atau mengatur sistem senjata otonom sepenuhnya. Namun, upaya untuk menetapkan standar hukum yang mengikat melalui CCW mengalami kemajuan yang lambat, terhambat oleh kepentingan nasional yang saling bertentangan dan kekhawatiran terhadap kedaulatan negara. Sekretaris Jenderal PBB Antonio Guterres menyoroti urgensi masalah ini dengan menetapkan batas waktu tegas tahun 2026 untuk menciptakan regulasi yang jelas dan efektif. Seruannya bertujuan untuk membendung penyebaran dan penggunaan senjata otonom yang tidak terkendali, memperingatkan bahwa proliferasinya dapat secara signifikan menurunkan ambang batas konflik bersenjata dan meningkatkan risiko eskalasi yang tak diinginkan. Mencapai konsensus di antara kekuatan besar dunia tetap menjadi hambatan utama. Negara-negara berpengaruh seperti Amerika Serikat, Rusia, China, dan India menyuarakan keragu-raguan terhadap dukungan terhadap traktat internasional yang komprehensif yang dapat membatasi kemampuan militer mereka.

Sebaliknya, mereka lebih memilih merumuskan panduan nasional dan langkah sukarela, menekankan pentingnya kedaulatan negara dan manfaat strategis yang diberikan oleh teknologi otonom. Posisi ini mendapat kritik dari para advokat hak asasi manusia, pakar pengendalian senjata, dan organisasi masyarakat sipil, yang memperingatkan bahwa tanpa kerangka hukum internasional yang kuat, dunia berisiko mengalami perlombaan senjata AI yang tidak terkendali. Laporan menunjukkan bahwa lebih dari 200 sistem senjata otonom yang berbeda saat ini aktif di seluruh dunia, dengan penempatan yang terdokumentasi dalam konflik terbaru yang melibatkan Rusia, Ukraina, dan Israel. Kelompok ini berpendapat bahwa tanpa pengawasan yang ketat, senjata tersebut dapat melanggar hak asasi manusia dan hukum humaniter internasional dengan membuat keputusan mematikan tanpa kendali manusia yang berarti. Sidang Majelis Umum PBB pada 12 Mei menandai momen bersejarah, karena ini adalah kali pertama Majelis mengadakan pertemuan resmi yang secara khusus membahas tantangan kompleks dari senjata otonom berbasis AI. Peserta menyatakan harapan bahwa diskusi tingkat tinggi ini akan memicu kemauan politik dan membuka jalan bagi kerangka hukum yang mengikat sebelum negosiasi CCW berikutnya yang dijadwalkan bulan September. Menanggapi pembicaraan ini, komunitas dunia dihadapkan pada tantangan sulit untuk menyeimbangkan inovasi teknologi terkait pertahanan dengan kebutuhan mendesak untuk melindungi umat manusia dari potensi konsekuensi tak terduga dari mesin yang membuat keputusan hidup dan mati. Sementara kemajuan teknologi berkembang pesat, pembangunan kerangka etika, hukum, dan operasional harus berjalan seiring untuk mencegah ketidakstabilan dan menjaga perdamaian serta keamanan internasional. Saat negara-negara memperdebatkan masa depan perang di dalam aula PBB, dunia menyaksikan dengan saksama, memahami bahwa hasil dari diskusi ini akan mempengaruhi sifat konflik bersenjata untuk generasi mendatang. Melangkah ke depan memerlukan peningkatan transparansi, kolaborasi multilateral, dan komitmen bersama untuk memastikan bahwa kecerdasan buatan berfungsi sebagai kekuatan untuk perdamaian, bukan sebagai pemicu kehancuran.