부통령 카말라 해리스의 가짜 음성을 사용한 조작된 영상이 인공지능이 사람들을 속일 가능성에 대한 우려를 불러일으키고 있습니다. 이 영상은 처음에는 패러디로 출시되었으나, 엘론 머스크가 자신의 소셜 미디어 플랫폼에서 공유한 후 주목을 받았습니다. 실제로 해리스가 발표한 광고의 영상을 사용하여 원래의 음성을 설득력 있는 모방으로 대체한 것입니다. 이 영상은 해리스가 공직에 적합하지 않다는 거짓 주장을 담고 있습니다. 이 사건은 정치에서 인공지능의 사용에 대한 규제와 지침의 필요성을 강조합니다. 접근 가능한 인공지능 도구가 현실적이고 오해를 일으킬 수 있는 콘텐츠를 생성할 수 있기 때문입니다.

또한 이 영상의 반응은 풍자와 기만의 경계를 모호하게 하는 인공지능 생성 콘텐츠를 어떻게 처리해야 할지에 대한 질문을 제기합니다. 영상의 원래 사용자 는 이를 패러디로 공개했지만, 머스크의 공유 게시물은 이를 명확히 명시하지 않아 잠재적으로 시청자를 혼란시킬 수 있었습니다. 영상의 오디오가 인공지능 기술을 사용하여 생성되었음이 확인되었습니다. 전문가들은 인공지능 회사들이 피해를 방지하고 도구가 사람이나 민주주의를 속이거나 조작하는 데 사용되지 않도록 해야 할 책임이 있다고 강조합니다. 옹호 단체들은 생성형 인공지능에 대한 규제를 요구해왔지만, 현재로서는 정치에서 인공지능 규제는 주로 주와 소셜 미디어 플랫폼에 달려 있습니다.