Искусственный интеллект, генерирующий аудио и видео контент, быстро развивается и находит применение в различных областях, таких как развлекательная индустрия и HR. Однако, руководители этих платформ признают связанные с ними риски. Они понимают необходимость введения политики модерации для предотвращения злоупотреблений, включая подделку общественных деятелей и мошеннические действия. Во время дискуссии с сenior писателем из журнала Fortune Джереми Каном на конференции Brainstorm AI в Лондоне, Виктор Рипарбелли, генеральный директор компании Synthesia, и Мати Станишевски, генеральный директор компании ElevenLabs, подчеркнули важность обеспечения этичного использования технологий голосового клонирования и генерации видео их компаний. Рипарбелли, один из сооснователей платформы генерации видео, заявил: "Как и с большинством новых технологий, мы сразу начинаем обдумывать, как они могут быть использованы неправильно. В данном случае, это верно - плохие люди обязательно воспользуются этим для плохих целей. " Использование искусственно сгенерированного аудио или видео для подделки общественных деятелей стало спорным вопросом. Недавние случаи отчетливых дипфейков, связанных с Тейлор Свифт и мошенническими робоколлами от фейкового Джо Байдена, вызвали беспокойство относительно влияния такого контента на предстоящие президентские выборы в США. OpenAI недавно объявила о задержке запуска своего инструмента для голосового клонирования искусственным интеллектом из-за связанных с этим рисками злоупотребления. Они в частности отметили опасения политического характера, заявив: "Мы признаем, что генерация речи, похожей на голоса людей, несет серьезные риски, которые особенно волнуют в год выборов. " Станишевски, сооснователь ElevenLabs, подчеркнул их приверженность вложениям в протоколы "узнай своего клиента" и обязательным уведомлениям. Эти меры направлены на то, чтобы все контент, созданный на их платформе, можно было проследить до конкретного пользователя.

Кроме того, компания исследует способы различения между искусственно сгенерированным и подлинным контентом, чтобы для пользователей стало понятно, что есть что. Рипарбелли подчеркнул, что Synthesia установила протоколы, требующие от пользователей подтверждения идентификации и получения согласия перед созданием искусственно сгенерированных видео. Он заявил: "В настоящее время невозможно взять видео с YouTube и создать клон кого-то на Synthesia. Мы контролируем ситуацию. У нас есть достаточно серьезная модерация контента, правила о том, что можно создавать, а что нельзя. " Во время обсуждения журналист выразил опасения относительно аудиодипфейков и сослался на вирусный аудиофрагмент, имитирующий мэра Лондона Садика Хана, который критиковал протестные марши в поддержку Палестины в ноябре прошлого года. Хан заверил о необходимости действий со стороны Парламента для предотвращения более дерзких злоумышленников. Станишевски выступил за прозрачность, предложив, чтобы весь искусственно сгенерированный контент однозначно помечался как таковой, и чтобы пользователи имели инструменты для быстрой проверки подлинности сообщений. Рипарбелли признал, что потребуется время для того, чтобы индустрия и законодатели достигли консенсуса относительно лучших практик и регулирования в отношении использования инструментов искусственного интеллекта, таких как те, которые предлагают Synthesia и ElevenLabs. Он заявил: "Как и с любой новой технологией, потребуется несколько лет, чтобы люди поняли, что правильно, а что неправильно. "