アメリカの副大統領カマラ・ハリスの偽の声を使った操作された動画が、米大統領選挙が迫る中、AIが人々を欺く可能性について懸念を引き起こしました。元々パロディとしてリリースされたこの動画は、イーロン・マスクが自身のソーシャルメディアプラットフォームで共有した後に注目を集めました。ハリスが公開した実際の広告の映像を利用し、元の声を説得力のある模写で置き換えています。この動画はハリスが公職に不適格であるとする虚偽の主張を含んでいます。この事件は、政治におけるAIの使用に関する規制とガイドラインの必要性を浮き彫りにしています。手軽にアクセスできるAIツールは、リアルで誤解を招くコンテンツを作成することができます。動画の受け取り方は、風刺と欺瞞の境界をぼかすAI生成コンテンツへの対処方法についても疑問を提起しています。動画のオリジナル投稿者はそのパロディーの立場を明示していましたが、マスクの共有投稿はこれを明示しておらず、視聴者を誤解させる可能性がありました。動画の音声はAI技術を使用して生成されたことが確認されています。専門家はAI企業の責任として、人々や民主主義を欺くためにツールが使用されないようにすることが重要であると強調しています。アドボカシーグループは生成AIの規制を求めていますが、現在、政治におけるAIの規制は主に州やソーシャルメディアプラットフォームに委ねられています。