Trí tuệ nhân tạo (AI) đang biến đổi nhiều khía cạnh của cuộc sống hàng ngày, nhưng các tội phạm mạng đang lợi dụng tiến bộ này để thúc đẩy các vụ lừa đảo qua email giả mạo. Những chatbot sử dụng AI như ChatGPT ngày càng được các kẻ lừa đảo sử dụng để tạo ra các email phishing sắc nét, chuyên nghiệp, rất khó phân biệt so với các email hợp lệ trước đây, vốn thường mắc lỗi ngữ pháp hoặc cách diễn đạt bất tự nhiên giúp người nhận nhận biết được fraud. Sự phát triển này làm suy yếu đáng kể các biện pháp phòng chống phishing truyền thống dựa trên việc phát hiện ngôn ngữ kém chất lượng như một dấu hiệu quan trọng. Nhiều kẻ lừa đảo, kể cả người không nói tiếng Anh bản địa, sử dụng các công cụ AI được huấn luyện dựa trên các tài liệu marketing chính thống từ các ngân hàng, nhà bán lẻ và nhà cung cấp dịch vụ uy tín, để tạo ra các tin nhắn giả mạo rất giống với email chính thống, khiến người nhận rất khó phân biệt giữa các thông điệp hợp pháp và lừa đảo. Xu hướng này đã làm các chuyên gia về an ninh mạng và cơ quan chức năng lo ngại do quy mô và tính chất nghiêm trọng của mối đe dọa. Ảnh hưởng của phishing sử dụng AI đã được thể hiện rõ qua số liệu mới nhất từ FBI, cho thấy các vụ lừa đảo phishing và các hình thức tương tự gây thiệt hại lên đến 16, 6 tỷ đô la trong năm ngoái. Ngoài tổn thất tài chính, phishing còn thúc đẩy các hành vi trộm cắp danh tính, truy cập trái phép vào các tài khoản quan trọng và phân phối phần mềm độc hại, gây tổn hại lâu dài cho nạn nhân. Các chuyên gia nhận định rằng AI không chỉ giúp nâng cao chất lượng email mà còn làm tăng tốc độ và quy mô các cuộc tấn công.

Việc tự động hóa tạo ra các tin nhắn lừa đảo cho phép tội phạm mạng tiến hành các chiến dịch quy mô lớn hướng tới hàng triệu người cùng lúc với nỗ lực ít ỏi của con người, qua đó tăng hiệu quả và lợi nhuận. Thêm vào đó, sự gia tăng của các công cụ AI tạo sinh giá rẻ có khả năng tạo ra video giả mạo sâu (deepfake) và các bản sao giọng nói giúp các kẻ lừa đảo có thể chế tạo các đoạn âm thanh và hình ảnh giả mạo thuyết phục của các cá nhân hoặc tổ chức đáng tin cậy. Điều này khiến các cuộc tấn công spear-phishing mục tiêu trở nên hiệu quả hơn, ví dụ như giả mạo giọng nói hoặc video của giám đốc công ty hoặc ngân hàng để ép buộc nạn nhân cung cấp thông tin mật hoặc thực hiện các giao dịch gian lận. Mặc dù những tiến bộ này giúp các kẻ lừa đảo dễ dàng hơn trong việc thực hiện các cuộc tấn công, các chuyên gia an ninh mạng vẫn khẳng định rằng việc phát hiện email lừa đảo vẫn có thể thực hiện được mặc dù ngày càng phức tạp. Phát hiện hiệu quả hiện nay đòi hỏi phải phân tích tinh vi hơn ngoài việc xem xét nội dung văn bản, bao gồm phân tích hành vi, lọc dựa trên trí tuệ nhân tạo, phát hiện bất thường và nâng cao giáo dục người dùng về các chiến thuật phishing ngày càng tinh vi. Đồng thời, các cá nhân và tổ chức cần phải luôn cảnh giác, cập nhật các biện pháp an ninh mạng, thực hiện giám sát liên tục, đào tạo định kỳ để nhận biết các chiêu thức phishing tinh vi hơn, xác thực đa yếu tố và phản hồi kịp thời các tin nhắn đáng ngờ để giảm thiểu rủi ro. Khi AI tiếp tục tiến bộ và ngày càng gắn bó hơn với các phương thức lừa đảo, cộng đồng an ninh mạng đứng trước thách thức lớn là phải vượt qua các tác nhân độc hại. Sự phát triển liên tục này của các trò lừa đảo dựa trên AI nhấn mạnh nhu cầu cấp thiết về sự hợp tác chặt chẽ giữa các nhà sáng tạo công nghệ, cơ quan thực thi pháp luật, các doanh nghiệp và cộng đồng để đổi mới các biện pháp phòng vệ, chia sẻ thông tin về mối đe dọa và nâng cao nhận thức. Tổng thể, phishing được tăng cường bởi AI là một sự leo thang đáng kể về trình độ của tội phạm mạng. Trong khi AI cung cấp các công cụ mạnh mẽ trong truyền thông và sáng tạo nội dung, nó cũng trang bị cho các kẻ lừa đảo các phương tiện chưa từng có để lừa dối và khai thác nạn nhân trên quy mô lớn. Để chống lại mối đe dọa ngày càng phát triển này đòi hỏi một chiến lược chủ động, đa chiều, kết hợp công nghệ tiên tiến, giáo dục và cảnh giác nhằm bảo vệ cá nhân và tổ chức trong thời đại số.