Trong buổi phát biểu chính tại Hội nghị Công nghệ GPU của Nvidia (GTC) ngày 28 tháng 10 năm 2025, đã xảy ra một sự cố deepfake đáng lo ngại, gây ra những mối quan tâm lớn về việc lạm dụng AI và rủi ro từ deepfake. Gần 100. 000 khán giả đã bị lừa bởi một buổi phát trực tiếp có nội dung do AI tạo ra, trình diễn phiên bản giả của Giám đốc điều hành Nvidia, Jensen Huang, một nhân vật công nghệ nổi tiếng. Chương trình giả mạo này, đăng trên một kênh mang tên “Nvidia Live” trông như thật, thu hút gấp năm lần số người xem so với khoảng 20. 000 khán giả trực tiếp của sự kiện thực sự. Video deepfake này đã quảng cáo sai lệch một dự án tiền mã hóa, kêu gọi người xem quét mã QR và gửi tiền điện tử, khiến khán giả nhầm tưởng đó là một phần trong sứ mệnh công nghệ của Nvidia. Sự giả mạo này càng tăng độ tin cậy bằng vẻ ngoài chính thức của kênh, tận dụng lòng tin của công chúng vào Nvidia và sự quan tâm đến công nghệ của hãng, đặc biệt trong bối cảnh ngành tiền mã hóa và AI đang bùng nổ. Phiên bản AI tạo ra của Huang được tạo ra dựa trên nhiều đoạn video công khai từ các bài thuyết trình trước đây của ông, cho thấy sự tiến bộ trong công nghệ deepfake tương tự như các thử nghiệm trước đây như màn trình diễn AI của OpenAI về Sam Altman. Khi Nvidia gần đạt giá trị 5 nghìn tỷ USD, chủ yếu nhờ vào vị thế dẫn đầu trong lĩnh vực AI, sự kiện này đặt ra các thách thức nghiêm trọng về việc đảm bảo tính xác thực của các truyền thông kỹ thuật số của hãng. Các bên liên quan và cộng đồng công nghệ ngày càng kỳ vọng Nvidia sẽ giải quyết mối đe dọa ngày càng tăng từ các deepfake tinh vi. Hiện tại, Nvidia sử dụng các công cụ phát hiện như hệ thống AI độc quyền NIM và Hive để chống lại nội dung giả mạo do deepfake tạo ra; tuy nhiên, sự cố này cho thấy các biện pháp phòng vệ hiện tại có thể chưa đủ để đối phó với các công nghệ giả mạo ngày càng tinh vi.

Nvidia dự kiến sẽ nâng cao các biện pháp này nhằm bảo vệ thương hiệu và thiết lập tiêu chuẩn trong ngành về phòng chống lạm dụng AI. Ngoài Nvidia, sự kiện này còn làm nổi bật những lỗ hổng lớn hơn trong thời đại số, nơi việc phân biệt thực hư với nội dung do AI tạo ra ngày càng trở nên khó khăn hơn. Nó nhấn mạnh sự cấp thiết của việc phát triển các phương pháp phát hiện tiên tiến, khung pháp lý và ý thức cảnh giác cao hơn nhằm giảm thiểu rủi ro từ thông tin sai lệch do AI gây ra. Các chuyên gia về an ninh mạng và đạo đức AI cảnh báo về nhiều hậu quả nghiêm trọng của deepfake, từ gian lận tài chính, chiến dịch lan truyền sai lệch đến việc làm giảm niềm tin của công chúng và thao túng dư luận. Ví dụ deepfake của Nvidia cho thấy các phần tử xấu lợi dụng AI tiên tiến để lừa đảo khán giả rộng lớn và thao túng thị trường. Đối với cá nhân và tổ chức, sự kiện này nhấn mạnh tầm quan trọng của việc hoài nghi và xác minh thông tin khi tiếp xúc với nội dung số, đặc biệt trong các hoàn cảnh có tính chất nhạy cảm như trình diễn công nghệ hoặc kêu gọi đầu tư tài chính. Các thực hành như xác nhận nguồn tin và đặt câu hỏi về các đề nghị tiền mã hóa không rõ nguồn gốc nên trở thành thói quen hàng ngày. Trong thời gian tới, phản ứng của Nvidia chắc chắn sẽ bao gồm việc đầu tư lớn vào các công nghệ phân tích AI thế hệ mới, hợp tác với các ngành công nghiệp và chính phủ để thiết lập các biện pháp phòng vệ vững chắc, cũng như nâng cao nhận thức cộng đồng về việc nhận diện và chống lại các mối đe dọa từ deepfake. Những nỗ lực này sẽ giúp củng cố cam kết của Nvidia với đổi mới sáng tạo và bảo vệ cộng đồng trong bối cảnh các thách thức AI ngày càng phức tạp. Tóm lại, buổi livestream deepfake trong buổi phát biểu chính của Nvidia tại GTC năm 2025 là một bước ngoặt quan trọng, thể hiện rõ đặc tính hai mặt của AI: khả năng sáng tạo đáng kinh ngạc đi kèm với những nguy cơ về đạo đức và an ninh. Khi AI tiếp tục tiến bộ, xã hội cần nâng cao các chiến lược để đảm bảo công nghệ phục vụ những mục đích tích cực thay vì gây ra lừa đảo và thiệt hại.