Недавнее исследование предоставило важные сведения о возможностях крупных языковых моделей при их точной настройке на конкретный лингвистический и культурный материал — в данном случае, на итальянские новостные тексты. Исследователи выяснили, что после обучения продвинутых ИИ-моделей на коллекции итальянских новостных статей созданный ими синтетический новостной контент был настолько реалистичным, что носители итальянского языка с трудом могли отличить материалы, созданные ИИ, от тех, что писали человеческие журналисты. Это открытие подчеркивает как прогресс в технологиях обработки естественного языка, так и возникающие вызовы искусственного интеллекта в сфере распространения новостей. Исследование включало тонкую настройку передовой крупной языковой модели — типа системы искусственного интеллекта, предназначенной для понимания и генерации текста, похожего на человеческий — на датасете, состоящем исключительно из итальянских новостных материалов. В результате модель научилась тонкостям итальянского языка, нюансам контекста и стилистическим особенностям профессиональной итальянской журналистики. Она начала генерировать новостные статьи с логичным повествованием, точной фактологией и подходящим тоном, из-за чего даже носители языка сталкивались с трудностями при их распознавании как искусственно созданных. Один из важнейших аспектов этого исследования — то, насколько легко ИИ можно использовать для создания так называемых «контентных ферм» — масштабных операций по производству больших объемов текста, зачастую низкого качества или вводящего в заблуждение, с целью манипуляции общественным мнением, увеличения интернет-трафика или распространения дезинформации. Способность моделей ИИ быстро создавать кажущимся правдоподобный новостной контент в больших масштабах открывает новые возможности в борьбе с дезинформацией. Проблема выявления контента, созданного ИИ, усложняет работу платформ, регуляторов и потребителей по проверке подлинности онлайн-новостей.

Традиционные методы обнаружения, основанные на выявлении лингвистических несоответствий или стилистических особенностей, становятся все менее эффективными по мере усложнения технологий ИИ. Это требует разработки более продвинутых методов обнаружения — возможно, с использованием судебного анализа, внедрения водяных знаков в генерируемый текст или повышения медийной грамотности аудитории. Кроме того, полученные данные выявляют более широкие этические и социальные проблемы. Способность создавать неотличимый от настоящего синтетический новостной контент может быть использована для распространения дезинформации, пропаганды или подрыва доверия к легитимным источникам новостей. Такие риски затрагивают не только отдельных людей, ищущих достоверную информацию, но и демократические процессы и общественный диалог в целом. Исследователи рекомендуют сбалансированный подход — использовать преимущества ИИ для автоматизации и повышения эффективности журналистской работы, одновременно вводя строгие меры предосторожности против злоупотреблений. Важна совместная работа технологов, журналистов, политиков и гражданского общества для создания рамочных стандартов, способствующих прозрачности, ответственности и аутентичности. В итоге, демонстрация того, что настройка больших языковых моделей на определенные лингвистические области позволяет создавать очень убедительный синтетический новостной контент, является как технологическим прорывом, так и предупреждением. В условиях дальнейшего развития искусственного интеллекта необходимость бдительности и проактивных мер станет ключевой для сохранения целостности информационных систем и защиты общества от вредных последствий ИИ-манипуляций и распространения дезинформации.