Искусственный интеллект привел к будущему, в котором отличить цифровой факт от вымысла будет все сложнее, о чем давно предупреждали эксперты. Примером тому стал недавний инцидент с записью, на которой, как предполагается, директор средней школы делает расистские замечания. Этот инцидент подчеркивает риски, связанные с широко доступными инструментами генеративного ИИ, и трудности, связанные с обнаружением их использования. Хотя оскорбительный аудиоклип, похожий на голос директора школы, широко распространялся в социальных сетях и освещался местными и национальными новостными изданиями, его подлинность до сих пор не подтверждена. По словам представителя профсоюза, ролик предположительно был сгенерирован искусственным интеллектом. В настоящее время государственные школы округа Балтимор проводят расследование инцидента. Это не первый случай, когда подлинность записи, причинившей вред, ставится под сомнение, но он примечателен тем, что речь идет о директоре средней школы, а не об известном общественном деятеле. Подобные инциденты становятся все более распространенными благодаря доступности технологии генеративного ИИ, что делает общество плохо подготовленным к борьбе с растущей волной цифрового мошенничества. Хани Фарид, профессор информатики Калифорнийского университета в Беркли, специализирующийся на цифровой криминалистике и медиаанализе, рассказал об этом в беседе с Scientific American. Он разработал инструменты для обнаружения глубоких подделок в аудио, изображениях и видео. Хотя анализ Фарида позволяет предположить, что данный аудиоклип, скорее всего, сгенерирован искусственным интеллектом, он подчеркивает необходимость проведения тщательного расследования для сбора дополнительных доказательств.

Для определения подлинности аудиозаписи он выступает за комплексный подход с привлечением нескольких экспертов, анализирующих контент и выясняющих его происхождение, включая такие детали, как время и место записи, а также источник утечки. Фарид также выражает обеспокоенность по поводу легкости создания убедительных аудиоподделок, для которых требуется всего минута или две голоса человека, что делает их доступными для любого человека без технических знаний. Кроме того, он признает, что для идентификации аудиозаписей, созданных ИИ, требуются продвинутые навыки, и лишь несколько лабораторий по всему миру в настоящее время обладают необходимыми возможностями. На данный момент не существует общедоступных инструментов для обнаружения глубоких подделок, которые Фарид считал бы достаточно надежными. Он подчеркивает важность тщательного рассмотрения подобных дел из-за значительного влияния, которое они могут оказать на отдельных людей, и более широких последствий, которые они влекут за собой. Заглядывая в будущее, Фарид говорит о том, что угроза фальсификаций выходит за рамки публичных фигур и распространяется на каждого учителя, директора, администратора или начальника, подчеркивая ответственность всей экосистемы - платформ социальных медиа, основных СМИ и отдельных людей - за решение этой проблемы. Он выражает обеспокоенность растущей сложностью доверия к онлайн-контенту и возможностью использования ложных заявлений с помощью "защиты ИИ" для ухода от ответственности. В конечном итоге, считает Фарид, судебная система должна будет адаптироваться к проблемам аутентификации, возникающим при использовании аудио- и видеодоказательств, созданных искусственным интеллектом. Он призывает к повышению ответственности компаний, создающих ИИ, и считает, что те, кто пострадал от глубоких подделок, должны иметь возможность подать в суд на компании, ответственные за создание таких продуктов. Привлечение компаний к ответственности, по его мнению, поможет защитить потребителей и стимулировать ответственное развитие технологий ИИ.