Phỏng vấn Trước khi trí tuệ nhân tạo (AI) trở nên phổ biến rộng rãi trong các doanh nghiệp, các nhà lãnh đạo doanh nghiệp phải cam kết thực hiện một chế độ kiểm tra an ninh liên tục phù hợp với những đặc thù riêng của các mô hình AI. Quan điểm này đến từ CEO của Chatterbox Labs, ông Danny Coleman, và CTO Stuart Battersby, những người đã thảo luận kỹ lưỡng với tạp chí The Register về lý do tại sao cho đến nay các công ty vẫn chậm trong việc chuyển đổi từ các chương trình thí điểm AI sang triển khai toàn bộ trong sản xuất. "Việc áp dụng AI trong doanh nghiệp hiện mới chiếm khoảng 10 phần trăm, " Coleman nói. "McKinsey ước tính đó là một thị trường trị giá bốn nghìn tỷ đô la. Làm thế nào để bạn có thể tiến xa hơn nếu cứ liên tục tung ra các giải pháp mà người dùng không biết độ an toàn của chúng hoặc họ không nhận thức được ảnh hưởng không chỉ đối với doanh nghiệp mà còn xã hội?" Ông bổ sung, "Những người inside các doanh nghiệp chưa thực sự sẵn sàng cho công nghệ này nếu không có sự quản trị và an ninh thích hợp. " Vào tháng Một, công ty tư vấn McKinsey đã phát hành một báo cáo xem xét tiềm năng chưa khai thác của trí tuệ nhân tạo (AI) trong nơi làm việc. Báo cáo mang tựa đề "Superagency trong nơi làm việc: Trao quyền cho con người để khai thác đầy đủ tiềm năng của AI, " tập trung vào sự quan tâm và đầu tư ngày càng gia tăng vào công nghệ AI nhưng cũng nhấn mạnh rằng tốc độ áp dụng vẫn còn chậm. ". . . điều bạn cần làm là không tin vào lời tuyên bố của cả nhà cung cấp mô hình lẫn nhà cung cấp các rào cản bảo vệ, vì ai cũng sẽ nói rằng giải pháp của họ cực kỳ an toàn và bảo mật. " "Báo cáo của McKinsey cho biết, 'Các nhà lãnh đạo muốn thúc đẩy đầu tư vào AI và tăng tốc độ phát triển, nhưng họ gặp khó khăn trong việc đảm bảo AI an toàn trong nơi làm việc. '" Coleman lập luận rằng an ninh mạng truyền thống và an ninh AI là các lĩnh vực giao thoa, nhưng phần lớn các đội ngũ an ninh thông tin vẫn chưa bắt kịp và thường thiếu kiến thức cần thiết để hiểu rõ các lỗ hổng tấn công đặc thù của AI.

Ông dẫn chứng việc Cisco mua lại Robust Intelligence và Palo Alto Networks mua Protect AI như những ví dụ về các công ty đang áp dụng chiến lược phù hợp. Battersby nhấn mạnh rằng các tổ chức muốn triển khai AI quy mô lớn phải thiết lập một chế độ kiểm tra liên tục dựa trên những gì dịch vụ AI thực sự thực hiện. "Bước đầu tiên là xác định điều gì đồng nghĩa với an toàn và bảo mật cho trường hợp sử dụng cụ thể của bạn, " ông giải thích. "Tiếp theo, bạn phải tránh phụ thuộc hoàn toàn vào các tuyên bố của nhà cung cấp mô hình hoặc nhà cung cấp các rào cản bảo vệ, vì ai cũng khẳng định giải pháp của họ cực kỳ an toàn. " Sự cảnh báo này rất quan trọng, Battersby nhấn mạnh, vì ngay cả người dùng có thẩm quyền của hệ thống AI cũng có thể gây ra hành vi có hại. "Điều chúng tôi muốn truyền đạt là chỉ cần các bộ lọc an toàn nội dung và các rào cản bảo vệ không thôi thì chưa đủ, " Coleman nói. "Điều này sẽ không thay đổi trong thời gian tới. Giải pháp cần phải có nhiều lớp hơn nữa. " Mặc dù phương pháp này có thể phát sinh chi phí, Battersby lập luận rằng kiểm tra liên tục có thể giảm chi phí bằng cách chứng minh rằng các mô hình nhỏ hơn, ít tốn kém hơn vẫn đảm bảo an toàn cho những trường hợp sử dụng nhất định. Toàn bộ cuộc phỏng vấn tiếp tục bên dưới…