Wawancara Sebelum AI menjadi meluas di perusahaan, pemimpin korporat mesti komited terhadap rejim ujian keselamatan secara berterusan yang disesuaikan dengan nuansa khusus model AI. Pandangan ini diutarakan oleh CEO Chatterbox Labs, Danny Coleman, dan CTO Stuart Battersby, yang berbincang panjang lebar dengan The Register mengenai mengapa syarikat-syarikat sehingga kini lambat beralih dari program perintis AI kepada pelaksanaan sepenuhnya di produksi. "Penggunaan oleh perusahaan hanya sekitar 10 peratus hari ini, " kata Coleman. "McKinsey menganggarkan pasar ini bernilai empat trilion dolar. Bagaimana anda akan maju jika terus mengeluarkan penyelesaian yang orang tidak tahu selamat digunakan, atau mereka tidak menyedari impak bukan sahaja kepada perusahaan tetapi juga kepada masyarakat?" Dia menambah, "Orang dalam syarikat belum lagi bersedia untuk teknologi ini tanpa pengurusan dan keselamatan yang sewajarnya. " Pada Januari, firma perunding McKinsey menerbitkan satu laporan yang meneliti potensi AI yang belum dimanfaatkan di tempat kerja. Laporan bertajuk "Superagency di tempat kerja: Memberdayakan manusia untuk membuka potensi penuh AI, " menyorot minat dan pelaburan yang semakin meningkat dalam teknologi AI tetapi menyatakan kadar penerimaan masih perlahan. ". . . apa yang perlu anda lakukan ialah jangan percaya retorik sama ada dari vendor model atau vendor penghadang, kerana semua akan memberitahu bahawa ia sangat selamat dan terjamin. " "Pemimpin mahu meningkatkan pelaburan AI dan mempercepatkan pembangunan, tetapi mereka bergelut dengan bagaimana memastikan AI selamat di tempat kerja, " kata laporan McKinsey. Coleman berpendapat bahawa keselamatan siber tradisional dan keselamatan AI adalah bidang yang bersilang, tetapi kebanyakan pasukan keselamatan maklumat masih belum mengejar dan sering kekurangan kepakaran yang diperlukan untuk memahami permukaan serangan unik AI. Dia memberi contoh pengambilalihan Robust Intelligence oleh Cisco dan pembelian Protect AI oleh Palo Alto Networks sebagai langkah syarikat mengamalkan strategi yang betul. Battersby menegaskan bahawa organisasi yang mahu melaksanakan AI secara skala besar mesti melaksanakan rejim ujian berterusan yang berasaskan kepada apa yang dilaksanakan oleh perkhidmatan AI tersebut. "Langkah pertama ialah menentukan apa maksud selamat dan terjamin untuk kes penggunaan tertentu anda, " katanya.

"Kemudian anda perlu mengelakkan bergantung semata-mata kepada tuntutan dari pembekal model atau vendor penghadang, kerana semua pihak mendakwa penyelesaian mereka sangat selamat. " Langkah berhati-hati ini amat penting, tekannya, kerana walaupun pengguna yang diberi kebenaran untuk sistem AI boleh menyebabkan sistem berkelakuan berbahaya. "Apa yang ingin kami sampaikan ialah penapis keselamatan kandungan dan penghadang sahaja tidak mencukupi, " kata Coleman. "Ini tidak akan berubah dalam masa terdekat. Penyelesaiannya perlu lebih berlapis. " Walaupun pendekatan ini mungkin menambah kos, Battersby berpendapat bahawa ujian berterusan boleh mengurangkan perbelanjaan dengan, contohnya, menunjukkan bahawa model yang lebih kecil dan kurang mahal masih selamat untuk beberapa kes penggunaan. Wawancara lengkap disambung di bawah…