Durant la conferència inaugural de Nvidia a la seva GTC (GPU Technology Conference) el 28 d’octubre de 2025, es va produir un incident inquiet de deepfake, que va aixecar preocupacions importants sobre l’ús indegut de la IA i els riscos dels deepfakes. Prop de 100. 000 espectadors van ser enganyats per una transmissió en directe que mostrava una versió generada per IA del CEO de Nvidia, Jensen Huang, una figura tecnològica àmpliament reconeguda. Aquesta falsa transmissió, publicada en un canal anomenat "Nvidia Live" que semblava oficial, va atraure cinc vegades més espectadors que els aproximadament 20. 000 de l’audiència en directe de l’esdeveniment real. El deepfake promocionava falsament un esquema de criptomonedes, encoratjant els espectadors a escanejar un codi QR i enviar criptomonedes, enganyant el públic per pensar que formava part de la missió tecnològica de Nvidia. La semblança oficial del canal va reforçar la seva credibilitat, explotant la confiança pública en Nvidia i l’interès en la seva tecnologia, especialment en els sectors del criptomón i la IA en auge. La semblança generada per IA de Huang va ser creada utilitzant àmplies enregistraments públics de les seves presentacions passades, mostrant avenços en la tecnologia deepfake similars a experiments anteriors com la demostració de Sam Altman generada per IA d’OpenAI. A mesura que Nvidia s’acosta a una valoració de 5 trilions de dòlars, principalment impulsada pel seu lideratge en IA, aquest incident planteja reptes crítics per garantir l’autenticitat de les seves comunicacions digitals. Les expectatives creixen entre les parts interessades i la comunitat tecnològica perquè Nvidia abordi la creixent amenaça que suposen els deepfakes cada vegada més avançats. Actualment, Nvidia utilitza eines de detecció com el seu sistema propietari basat en IA, NIM i Hive, per combatre continguts deepfake; però, aquest incident revela que aquestes defenses podrien ser insuficients davant de falsificacions cada vegada més avançades.

Es preveu que Nvidia millori aquestes mesures per protegir la seva marca i establir estàndards en la prevenció de l’ús indegut de la IA. Més enllà de Nvidia, aquest episodi posa al descobert vulnerabilitats més àmplies a l’era digital, on la distinció entre realitat i contingut generat per IA es fa cada vegada més difícil. Sensibilitza sobre la necessitat urgent de desenvolupament de mètodes avançats de detecció, marcs reguladors i una vigilància intensificada per reduir els riscos de la desinformació impulsada per IA. Experts en ciberseguretat i ètica de la IA adverteixen del potencial dany que poden causar els deepfakes, des de fraus financers i campanyes de desinformació fins a la erosió de la confiança pública i la manipulació d’opinió. El deepfake de Nvidia exemplifica com actors malintencionats poden aprofitar la IA de punta per enganyar grans audiències i manipular els mercats. Per a individus i organitzacions, aquest esdeveniment subratlla la importància del skepticism i la verificació quan es trobin amb contingut digital, especialment en contextos de gran risc com exhibicions tecnològiques o cridades financeres. Pràctiques com confirmar les fonts o qüestionar sol·licituds de criptomonedes no sol·licitades haurien de convertir-se en rutinàries. De cara al futur, probablement la resposta de Nvidia implicarà una inversió significativa en tecnologies forenses d’IA de nova generació, col·laboracions amb la indústria i el govern per establir mesures de seguretat robustes, i d’educació pública per reconèixer i combatre les amenaces dels deepsfakes. Aquestes iniciatives reforçaran el compromís de Nvidia amb la innovació i protegiran la seva comunitat davant els desafiaments emergents de la IA. En resum, la transmissió en directe amb deepfake durant la conferència GTC 2025 de Nvidia representa un moment crític que il·lustra la doble capacitat de la IA: un potencial creatiu remarquable i vulnerabilitats ètiques i de seguretat. A mesura que l’IA evoluciona, la societat ha de potenciar les seves estratègies per garantir que la tecnologia serveixi a propòsits constructius en lloc de la decepció i el dany.