Wawancara Sebelum AI menjadi luas digunakan di perusahaan, para pemimpin perusahaan harus berkomitmen pada regime pengujian keamanan yang berkelanjutan dan disesuaikan dengan nuansa khusus dari model AI. Pendapat ini berasal dari CEO Chatterbox Labs, Danny Coleman, dan CTO Stuart Battersby, yang berbincang panjang lebar dengan The Register tentang mengapa perusahaan hingga saat ini lambat dalam beralih dari program percontohan AI ke penerapan penuh di produksi. "Adopsi perusahaan saat ini hanya sekitar 10 persen, " kata Coleman. "McKinsey memperkirakan ini adalah pasar senilai empat triliun dolar. Bagaimana Anda akan maju jika terus merilis solusi yang orang tidak tahu aman digunakan, atau jika mereka tidak sadar tidak hanya dari dampak terhadap perusahaan tetapi juga dampak sosialnya?" Dia menambahkan, "Orang di dalam perusahaan belum sepenuhnya siap untuk teknologi ini tanpa tata kelola dan keamanan yang tepat. " Pada bulan Januari, perusahaan konsultan McKinsey merilis laporan yang meninjau potensi AI yang belum dimanfaatkan di tempat kerja. Laporan berjudul "Superagency di tempat kerja: Memberdayakan orang untuk membuka potensi penuh AI, " menyoroti meningkatnya minat dan investasi dalam teknologi AI namun mencatat bahwa laju adopsinya masih lambat. ". . . apa yang harus Anda lakukan adalah tidak mempercayai retorika dari vendor model maupun vendor penjaga, karena semua akan mengatakan bahwa mereka sangat aman dan terlindungi. " "Para pemimpin ingin meningkatkan investasi AI dan mempercepat pengembangan, tetapi mereka kesulitan memastikan bahwa AI aman digunakan di tempat kerja, " kata laporan McKinsey. Coleman berpendapat bahwa keamanan siber tradisional dan keamanan AI adalah bidang yang saling berpotongan, tetapi sebagian besar tim keamanan informasi masih harus mengejar ketertinggalan dan sering kekurangan keahlian yang dibutuhkan untuk memahami permukaan serangan unik dari AI. Dia mencontohkan akuisisi Cisco terhadap Robust Intelligence dan pembelian Palo Alto Networks atas Protect AI sebagai contoh perusahaan yang mengadopsi strategi yang tepat. Battersby menekankan bahwa organisasi yang ingin menerapkan AI dalam skala besar harus menjalankan regime pengujian berkelanjutan yang didasarkan pada apa yang sebenarnya dilakukan oleh layanan AI tersebut. "Langkah pertama adalah menentukan apa arti aman dan terlindungi untuk kasus penggunaan spesifik Anda, " ujarnya.

"Kemudian Anda harus menghindari bergantung sepenuhnya pada klaim dari penyedia model atau vendor penjaga, karena semua orang mengklaim solusi mereka sangat aman. " Kewaspadaan ini sangat penting, tegas Battersby, karena bahkan pengguna yang berwenang dari sistem AI dapat menyebabkan sistem itu berperilaku berbahaya. "Apa yang ingin kami komunikasikan adalah bahwa filter keamanan konten dan penjaga saja tidak cukup, " kata Coleman. "Ini tidak akan berubah dalam waktu dekat. Solusinya harus jauh lebih berlapis. " Meski pendekatan ini mungkin menimbulkan biaya, Battersby berargumen bahwa pengujian berkelanjutan dapat mengurangi pengeluaran dengan, misalnya, menunjukkan bahwa model yang lebih kecil dan lebih murah tetap aman untuk kasus penggunaan tertentu. Wawancara lengkapnya dapat dilanjutkan di bawah…