Sejak Juli, para peneliti di Los Alamos National Laboratory di New Mexico telah mengeksplorasi bagaimana model AI GPT-4o, yang dikembangkan oleh OpenAI, dapat membantu dalam tugas penelitian biologi. Tugas-tugas ini meliputi mempertahankan kultur sel, memisahkan sel menggunakan sentrifuga, dan memasukkan materi genetik ke dalam organisme. Tujuan dari evaluasi ini adalah untuk berinovasi dalam biosains dan memahami potensi risiko, terutama yang berkaitan dengan masalah biosafety dan biosecurity sejak model AI seperti ChatGPT tersedia untuk umum pada tahun 2022. Di Johns Hopkins Center for Health Security, para ahli menekankan potensi AI dalam meningkatkan kesehatan masyarakat, tetapi juga mencatat risiko teknologi yang tidak terduga. Mereka mendesak pemerintah untuk mengidentifikasi dan mengurangi risiko paling mendesak, memanfaatkan pengalaman masa lalu dalam mengelola risiko penelitian biologis. GPT-4o adalah model bahasa besar multimodal yang mampu memproses input teks, audio, gambar, dan video. Sebelumnya, GPT-4 menunjukkan aplikasi dalam ilmu hayat, seperti merancang antibodi dan mengotomatisasi eksperimen biologi.

Namun, kemajuan ini juga dapat menimbulkan risiko biosafety yang signifikan, mendorong pemerintah untuk mendirikan institut keselamatan AI dan menerapkan pedoman untuk mengelola risiko tersebut. Untuk menentukan kemampuan AI mana yang mungkin mengakibatkan bahaya berskala besar, para ahli menyarankan untuk fokus pada kemampuan yang memungkinkan wabah setingkat pandemi, seperti mengoptimalkan desain virus atau mengotomatisasi sintesis patogen. Mereka mendorong kerja sama luas antara pengembang AI dan ahli keselamatan untuk memprioritaskan mitigasi risiko berat. Evaluasi keselamatan model AI sering berfokus sempit pada pengembangan senjata biologis tanpa membedakan risiko berskala lebih kecil dan lebih besar. Evaluasi juga perlu memperhitungkan operasi kolaboratif dari beberapa sistem AI, bukan hanya memusatkan perhatian pada model individu. Pendekatan yang lebih efektif membutuhkan konsensus ilmiah objektif tentang kemampuan AI mana yang menimbulkan ancaman biosafety signifikan. Membangun konsensus ini akan melibatkan pengujian keamanan menyeluruh, yang dikembangkan oleh para ahli independen, dan didukung oleh pemangku kepentingan pemerintah dan industri. Pendekatan ini memastikan keseimbangan antara memanfaatkan manfaat AI dan mitigasi risikonya.