Gaia Marcus, Direktur Institut Ada Lovelace, telah menyerukan perlunya regulasi AI yang lebih kuat untuk memastikan teknologi ini diterapkan secara adil, aman, dan sesuai dengan harapan masyarakat. Dalam sebuah diskusi terbaru dengan jurnalis Financial Times, Melissa Heikkilä, Marcus menyuarakan kekhawatiran serius tentang konsentrasi kekuatan AI di tangan beberapa perusahaan besar dan menekankan perlunya pemahaman yang mendalam tentang dampak sosial-teknologi dari inovasi AI. Dia merujuk pada data survei terbaru dari Inggris yang mengungkapkan meningkatnya permintaan masyarakat untuk regulasi AI. Menurut data tersebut, 72 persen responden di Inggris merasa lebih nyaman jika undang-undang komprehensif mengatur penggunaan AI, dan 88 persen mendukung intervensi pemerintah untuk mencegah bahaya setelah teknologi AI diterapkan dalam konteks dunia nyata. Ini menunjukkan keinginan jelas dari masyarakat untuk pengawasan dan akuntabilitas yang lebih baik di tengah kemajuan kemampuan AI. Marcus mengamati adanya perubahan mencolok dalam pendekatan industri AI selama beberapa tahun terakhir. Awalnya, fokus utama adalah pada pengembangan AI yang bertanggung jawab, menekankan desain hati-hati dan pertimbangan etis, tetapi kini ada mentalitas "bangun cepat" yang didorong oleh hype dan penerapan yang cepat. Dia mengkritik tren ini karena berpotensi menempatkan kecepatan dan keunggulan kompetitif di atas keselamatan dan refleksi etis. Pemerintah, terutama di Inggris, telah disorot karena kurangnya tindakan dalam menganalisis bagaimana alat AI mempengaruhi kehidupan sehari-hari masyarakat di berbagai sektor.

Marcus menyerukan pembuatan kebijakan berbasis bukti yang melampaui regulasi dangkal untuk secara mendalam menilai dampak sosial, ekonomi, dan hukum dari AI. Penilaian semacam ini penting untuk melindungi populasi yang rentan dan memastikan bahwa teknologi AI benar-benar memberikan manfaat bagi masyarakat secara keseluruhan, bukan hanya untuk kepentingan sempit. Dengan semakin pentingnya agen AI dan asisten digital dalam kehidupan sehari-hari, Marcus menyoroti risiko mendesak yang perlu diperhatikan, termasuk potensi dampak kesehatan mental akibat interaksi dengan AI, masalah tanggung jawab hukum kompleks ketika keputusan berbasis AI menimbulkan kerugian, serta konsentrasi pasar yang semakin meningkat di mana pemain dominan menguasai infrastruktur inti AI, membatasi kompetisi dan inovasi. Dia menekankan bahwa warga negara harus aktif menyampaikan harapan mereka kepada pembuat kebijakan untuk membentuk regulasi AI. Melindungi kesejahteraan masyarakat di tengah perkembangan teknologi yang pesat adalah tanggung jawab negara, yang membutuhkan pemerintah memprioritaskan hak, keselamatan, dan martabat manusia dalam kerangka tata kelola AI. Marcus mengakhiri dengan mendesak masyarakat untuk secara kritis memeriksa bagaimana teknologi AI mempengaruhi struktur sosial dan kenyataan sehari-hari. Pertanyaan mendasar adalah apakah masa depan yang dibentuk oleh perkembangan AI yang pesat sesuai dengan nilai-nilai kemanusiaan bersama seperti keadilan, transparansi, dan keadilan sosial. Menanamkan prinsip-prinsip ini dalam pengembangan dan penerapan AI sangat penting untuk memanfaatkan manfaat AI sekaligus meminimalkan kerugian. Di bawah kepemimpinan Marcus, Institut Ada Lovelace terus bekerjasama dengan pembuat kebijakan, industri, dan publik untuk mendorong tata kelola AI yang transparan, inklusif, dan etis. Seiring sistem AI semakin meresap dalam kehidupan, tuntutan untuk regulasi yang kuat dan pengawasan yang bijaksana semakin meningkat, mencerminkan kekhawatiran dan harapan luas akan masa depan di mana teknologi melayani kemanusiaan secara bertanggung jawab.