Trí tuệ nhân tạo đã có những bước tiến đáng kể gần đây, biến đổi các lĩnh vực như giao tiếp, giải trí và an ninh. Tuy nhiên, như bất kỳ công nghệ mạnh mẽ nào, việc lạm dụng AI đặt ra những thách thức nghiêm trọng. Một mối lo ngại đáng chú ý là các kẻ lừa đảo lợi dụng các ứng dụng video AI để thực hiện các hành vi gian lận và giả mạo tinh vi, báo hiệu một sự tiến hóa đáng lo ngại trong tội phạm mạng khiến các chuyên gia an ninh toàn cầu lo lắng. Ví dụ gần đây là việc ra mắt ứng dụng Sora cho iOS của OpenAI, sử dụng mô hình tạo video tiên tiến để cho phép người dùng dễ dàng tạo ra các video AI chân thực, sống động. Dù mang lại những đổi mới, Sora còn chứa một tính năng gây tranh cãi là xóa bỏ watermark—dấu đóng dấu được chèn trong nội dung do AI tạo ra để xác định đó là nhân tạo. Việc này làm phức tạp việc phân biệt nội dung thật và nội dung giả mạo siêu thực (deepfake), nâng cao rủi ro bị lừa đảo. Các chuyên gia cảnh báo rằng những công cụ này có thể làm trầm trọng thêm một vấn đề đã tồn tại ngày càng lớn. Các vụ lừa đảo giả mạo đã gia tăng trước khi các trình tạo video AI dễ tiếp cận xuất hiện, gây thiệt hại lớn cho cá nhân và tổ chức, đồng thời làm giảm niềm tin vào giao tiếp kỹ thuật số. Giờ đây, kẻ lừa đảo có thể sử dụng các kỹ thuật chỉnh sửa video và âm thanh tiên tiến để tạo ra các deepfake cực kỳ thuyết phục, bắt chước khuôn mặt và giọng nói của người thật. Những giả mạo này có thể giả mạo các lãnh đạo, quan chức, người nổi tiếng hoặc cả người bình thường để thực hiện các hành vi lừa đảo, lan truyền tin giả, trộm cắp danh tính và đòi tiền chuộc. Để đối phó, các nền tảng như Meta AI hạn chế một số chức năng nhất định—ví dụ như tránh sao chép giọng nói để giảm thiểu rủi ro giả mạo. Tuy nhiên, nhiều ứng dụng AI vẫn cung cấp khả năng sao chép giọng nói và khuôn mặt rộng rãi, làm tăng quy mô và hiệu quả của các hoạt động lừa đảo. Các tính năng này làm mờ ranh giới giữa nội dung thật và giả, gây khó khăn cho việc phát hiện ngay cả đối với các chuyên gia mà không có công cụ đặc biệt. Các công ty an ninh như GetReal Security và Sophos nhấn mạnh mối đe dọa phổ biến và ngày càng gia tăng của các vụ lừa đảo dựa trên AI.

Nghiên cứu của họ cho thấy xu hướng tăng đều trong các vụ gian lận sử dụng video và âm thanh do AI tạo ra, thường nhắm vào các doanh nghiệp và người nổi bật. Họ cảnh báo rằng khi công nghệ AI tiến bộ nhanh chóng, các biện pháp bảo vệ truyền thống có thể không đủ, do đó cần các chiến lược chủ động như các thuật toán phát hiện tiên tiến và đào tạo về kỹ năng số toàn diện để giảm thiểu rủi ro. Thú vị là, OpenAI nhận thấy rằng công cụ ChatGPT phổ biến của họ thường giúp phát hiện các vụ lừa đảo nhiều hơn là thực hiện chúng, minh họa vai trò kép của AI: trong khi tạo điều kiện cho những đối tượng đe dọa mới, nó cũng nâng cao khả năng phòng thủ của chúng ta trong việc nhận biết sự lừa dối. Tuy nhiên, khả năng mở rộng và tự động hóa của gian lận dựa trên AI vẫn là những mối quan tâm lớn. Khả năng sản xuất hàng loạt những deepfake thuyết phục một cách dễ dàng có thể gây ra làn sóng lừa đảo nếu các biện pháp đối phó không theo kịp. Tình hình này cho thấy nhân loại vẫn đang ở giai đoạn đầu của đường cong phát triển AI. Khi các công nghệ này tiến bộ, việc cân bằng giữa các lợi ích và những khai thác độc hại sẽ là một thử thách phức tạp và động. Sự cảnh giác của các nhà phát triển, chuyên gia an ninh, nhà hoạch định chính sách và cộng đồng là điều thiết yếu. Phát triển đạo đức, thực hành minh bạch và các giao thức an ninh mạnh mẽ là rất quan trọng để giảm thiểu thiệt hại đồng thời tối đa hóa lợi ích xã hội của AI. Tổng thể, các ứng dụng như Sora của OpenAI thể hiện cả tiến bộ công nghệ thú vị lẫn những thách thức đáng kể về an ninh kỹ thuật số. Khi các công cụ tạo video dựa trên AI ngày càng phổ biến và tinh vi hơn, nguy cơ bị lạm dụng trong các hoạt động lừa đảo và giả mạo nở rộ rõ rệt. Để giải quyết những vấn đề này, cần một cách tiếp cận đa chiều gồm đổi mới công nghệ, quản lý quy định, giáo dục và hợp tác. Nhờ tăng cường nhận thức và chuẩn bị, xã hội có thể thích nghi tốt hơn với cảnh quan an ninh mạng mới nổi này và bảo vệ cá nhân cũng như tổ chức khỏi các hình thức lừa đảo dựa trên AI ngày càng thuyết phục hơn.