Během hlavního projevu na konferenci Nvidia GPU Technology Conference (GTC) dne 28. října 2025 došlo k znepokojujícímu incidentu s deepfake, který vzbudil výrazné obavy z zneužití umělé inteligence a rizik spojených s deepfake. Tisíce diváků, téměř 100 000, naletěly na živé vysílání, na němž byla představena AI-vytvořená podoba hlavního výkonného ředitele Nvidie Jenðena Huanga, široce uznávané technologické osobnosti. Tento falešný přenos, zveřejněný na kanálu s názvem “Nvidia Live”, který působil oficiálně, přilákal pětkrát více diváků než skutečné události, které měly zhruba 20 000 diváků. Deepfake falešně propagoval kryptoměnový schéma, nabádal diváky, aby naskenovali QR kód a poslali kryptoměny, čímž klamal publikum, že jde o součást technologické mise Nvidie. Oficiální vzhled kanálu zvýšil jeho důvěryhodnost a využil veřejnou důvěru v Nvidia a zájem o její technologie, zejména v rychle se rozvíjejících sektorech kryptoměn a umělé inteligence. AI-vytvořená podoba Huanga byla vytvořena na základě rozsáhlého dostupného veřejného záznamu jeho minulých prezentací, což dokazuje pokrok v technologiích deepfake, podobně jako dřívější experimenty s demo verzí AI od OpenAI, například s AI-generovaným Samom Altmanem. Jak Nvidia dosahuje hodnoty téměř 5 bilionů dolarů, především díky svému vedení v oblasti AI, představuje tento incident zásadní výzvy pro zabezpečení pravosti svých digitálních komunikací. Rostou očekávání ze strany investorů a technologické komunity, že Nvidia přijme opatření proti narůstající hrozbě sofistikovaných deepfake. V současnosti Nvidia používá detekční nástroje včetně svého vlastního AI systému NIM a Hive k boji proti deepfake obsahu; nicméně tato událost odhalila, že tyto ochrany mohou být nedostatečné proti stále pokročilejším padělkům.

Očekává se, že Nvidia tyto opatření posílí, aby ochránila svou značku a stanovila průmyslové normy v prevenci zneužití AI. Mimo Nvidii tento případ zdůrazňuje širší zranitelnosti v digitální éře, kde se stále obtížněji rozpoznává realita od obsahu generovaného AI. Poukazuje na naléhavou potřebu pokročilých detekčních metod, regulací a zvýšené ostražitosti k mitigaci rizik spojených s dezinformacemi řízenými AI. Experti na kybernetickou bezpečnost a etiku AI upozorňují na rozsáhlé potenciální škody způsobené deepfake technologií, od finančního podvodu a kampaní šířících dezinformace po erozi veřejné důvěry a manipulaci s názory. Deepfake Nvidia je příkladem toho, jak zlí aktéři využívají nejmodernější AI k oklamání velkého publika a manipulaci s trhy. Pro jednotlivce i organizace tento incident zdůrazňuje důležitost skeptického přístupu a ověřování při setkání s digitálním obsahem, obzvlášť v rizikových situacích, jako jsou technologické prezentace nebo finanční výzvy. Základními praktikami by mělo být potvrzování zdroje a kladení otázek u nevyžádaných kryptoměnových nabídek. Do budoucna bude pravděpodobně Nvidia investovat nemalé prostředky do nových forenzních technologií AI, spolupracovat s průmyslem a vládami na zavádění robustních opatření a vzdělávat veřejnost o rozpoznávání a boji proti deepfake hrozbám. Tyto kroky posílí závazek Nvidia k inovacím a ochraně své komunity před vznikajícími výzvami ze strany AI. Celkově vzato, živé vysílání s deepfake během hlavního projevu Nvidia na GTC 2025 představuje klíčový moment, který ukazuje dvojí povahu AI: ohromující tvůrčí potenciál a zároveň etické a bezpečnostní rizika. Jak se AI vyvíjí, musí společnost posilovat své strategie, aby zajistila, že technologie bude sloužit konstruktivním účelům a ne použití na klamání či škody.