Selama konferensi teknologi GPU Nvidia (GTC) pada 28 Oktober 2025, terjadi insiden deepfake yang mengganggu, memicu kekhawatiran besar tentang penyalahgunaan AI dan risiko deepfake. Hampir 100. 000 penonton tertipu oleh siaran langsung yang menampilkan versi AI dari CEO Nvidia Jensen Huang, seorang tokoh teknologi yang dikenal luas. Siaran palsu ini diposting di saluran bernama "Nvidia Live" yang terlihat resmi, menarik lima kali lebih banyak penonton daripada sekitar 20. 000 penonton langsung pada acara asli. Deepfake ini secara palsu mempromosikan skema cryptocurrency, mendesak penonton untuk memindai kode QR dan mengirimkan cryptocurrency, menipu audiens agar percaya bahwa itu adalah bagian dari misi teknologi Nvidia. Kemiripan saluran yang tampak resmi ini meningkatkan kredibilitasnya, memanfaatkan kepercayaan masyarakat terhadap Nvidia dan minat terhadap teknologi mereka, terutama di tengah berkembangnya sektor cryptocurrency dan AI. Kemiripan wajah Huang yang dibuat oleh AI ini dihasilkan menggunakan rekaman terbuka dari presentasi-presentasinya sebelumnya, menunjukkan kemajuan teknologi deepfake yang sebanding dengan percobaan sebelumnya seperti demo AI OpenAI terhadap Sam Altman. Saat Nvidia mendekati valuasi $5 triliun, yang terutama didorong oleh kepemimpinannya di bidang AI, kejadian ini menimbulkan tantangan besar mengenai keamanan keaslian komunikasi digital mereka. Harapan dari para pemangku kepentingan dan komunitas teknologi semakin tinggi agar Nvidia mampu mengatasi ancaman meningkat dari deepfake yang semakin canggih. Saat ini, Nvidia menggunakan alat deteksi termasuk sistem berbasis AI mereka sendiri, NIM dan Hive, untuk melawan konten deepfake; namun, insiden ini menunjukkan perlindungan tersebut mungkin tidak cukup terhadap pemalsuan yang semakin maju.

Nvidia diharapkan akan meningkatkan langkah-langkah ini demi melindungi mereknya dan menetapkan standar industri dalam pencegahan penyalahgunaan AI. Selain Nvidia, episode ini menyoroti kerentanan yang lebih luas di era digital dimana membedakan kenyataan dari konten yang dihasilkan AI menjadi semakin sulit. Ini menekankan perlunya metode deteksi canggih, kerangka regulasi, dan kewaspadaan yang lebih tinggi untuk mengurangi risiko dari misinformation berbasis AI. Para ahli keamanan siber dan etika AI memperingatkan tentang potensi kerusakan besar yang disebabkan oleh deepfake, mulai dari penipuan finansial dan kampanye misinformasi hingga merusak kepercayaan publik dan memanipulasi opini. Deepfake Nvidia menjadi contoh bagaimana aktor jahat memanfaatkan AI terbaru untuk menipu audiens yang luas dan memanipulasi pasar. Bagi individu dan organisasi, peristiwa ini menekankan pentingnya skeptisisme dan verifikasi saat menghadapi konten digital, terutama dalam konteks yang berisiko tinggi seperti demonstrasi teknologi atau ajakan finansial. Praktik seperti memastikan sumber dan mempertanyakan tawaran cryptocurrency yang tidak diminta harus menjadi kebiasaan. Ke depan, respons Nvidia kemungkinan akan melibatkan investasi besar dalam teknologi forensik AI generasi berikutnya, bekerja sama dengan industri dan pemerintah untuk membangun perlindungan yang kokoh, serta edukasi publik tentang mengenali dan melawan ancaman deepfake. Upaya ini akan memperkuat komitmen Nvidia terhadap inovasi dan melindungi komunitasnya di tengah tantangan AI yang sedang berkembang. Secara ringkas, siaran langsung deepfake selama keynote GTC Nvidia 2025 menandai momen penting yang menggambarkan sifat dual dari AI: potensi kreatif yang luar biasa disertai dengan kerentanan etika dan keamanan. Seiring perkembangan AI, masyarakat harus meningkatkan strategi untuk memastikan teknologi digunakan untuk tujuan yang konstruktif dan bukan untuk penipuan dan kerusakan.