Изначально, когда компания OpenAI выпустила программуChatGPT, она представляла собой некое всезнающее существо. Обученная расширенным наборам данных, которые представляли собой совокупность всех знаний и интересов человека, доступных в Интернете, эта статистическая машина прогнозирования обладала потенциалом служить в качестве основного источника истины. В наше время поляризации, дезинформации и падения доверия в обществе этот надежный источник правды, несомненно, был бы бесценным. Однако эти надежды быстро рушились, когда недостатки технологии становились очевидными. Одним из главных недостатков была тенденция генерировать ответы, которые перерабатывались. Вскоре стало очевидно, что, хотя результаты и выглядят впечатляюще, они основаны исключительно на шаблонах в рамках учебного процесса, а не отражают объективную истину. Но это была не единственная проблема. После выходаChatGPT в свет появилось множество других чат- ботов от таких технологических гигантов, какMicrosoft, Google, Tencent, Baidu, Snap, SKTelecom, Alibaba, Databricks, Anthropic, StabilityLabs, Meta и других. Различные чат- боты дают совершенно разные результаты при выполнении одного и того же запроса. Различия обусловлены различиями в моделях, обучающих данных и руководящих принципах, предоставляемых моделям. Эти руководящие принципы призваны предотвратить закрепление предубеждений, генерацию дезинформации, ненавистническую речь, К сожалению, после запускаChatGPT выяснилось, что не все согласны с руководящими принципами, установленнымиOpenAI. Консерваторы, например, критиковали ответы бота за то, что он демонстрирует ярко выраженные либеральные взгляды. В ответ ЭлонМуск заявил о своих намерениях создать бот, который по сравнению сChatGPT будет более сдержанным и политически корректным. С учетом недавнего анонса компанииxAI, вполне вероятно, что она выполнит это обещание. Иной подход был предпринят компаниейAnthropic, которая внедрила" конституцию" для своих чат- ботовClaude( и теперьClaude2). Как сообщаетVentureBeat, эта конституция определяет набор ценностей и принципов, которых должен придерживатьсяClaudem при взаимодействии с пользователями, подчеркивая полезность, безвредность и честность. Как сообщается в блоге компании, концепция Claude's sconstitution черпает вдохновение в Декларации прав человека ООН, но при этом учитывает и незападную точку зрения. Можно сказать, что с этими принципами согласны большинство пользователей. Meta также недавно представила свою модельLLaMA2largelanguagemodel( LLM), которая отличается не только своими возможностями, но и тем, что является открытым источником. Это означает, что любой человек может свободно загрузить и использовать ее в своих целях. Другие генерирующиеAI- модели с минимальными ограничениями также доступны. Использование этих моделей делает идею руководящих принципов и конституций несколько примитивной. Однако в ходе тревожного исследования, о котором сообщалось в TheNewYorkTimes, обнаружилась ошибка в технологии, которая эффективно подрывает защитные механизмы всех моделей, в том числе и моделей с открытым исходным кодом. Fortunereportedear100% successrateinutilizingthismethodagainstVicuna, anopen- sourcechatbotpoweredbyMeta'soriginalLLaMA. Таким образом, любой человек, желающий получить подробные инструкции по созданию системы обмана потребителей, может получить такую информацию от различных LLM. Хотя разработчики, возможно, смогут решить некоторые из этих проблем безопасности, исследователи считают, что предотвратить все подобные атаки в настоящее время невозможно.

В дополнение к опасениям, высказанным в ходе данного исследования, растет число несопоставимых результатов по нескольким моделям, даже если они представлены одним и тем же вопросом. Подобно нашему фрагментированному социальному медиа и новому ландшафту, эта фрагментированнаяAI- экосистема представляет собой угрозу для истины и недоверия. Мы движемся вперед к будущему, переполненному чатботами, которые вносят свой вклад в шум и хаос. В настоящее время чатботы на базе LLMs предоставляют информацию в виде текста, но по мере того, как модели развиваются в направлении мультимодальных возможностей, позволяющих генерировать изображения, видео и аудио, их применение и эффективность, несомненно, расширяются. Одно из потенциальных применений мультимодальногоAI можно наблюдать в" цифровых людях"- синтетических созданиях, убедительно копирующих человеческую внешность. В недавней статье в HarvardBusinessReview описываются технологии, которые способствовали появлению" цифровых людей", сочетающих компьютерную графику и искусственный интеллект. Кук Джианг, соучредитель стартапа ZEGOCLOUD, описывает цифровых людей как высокодетализированные, реалистичные модели, превосходящие ограничения традиционного реализма и изысканности. Джианг подчеркивает их способность взаимодействовать с реальными людьми естественными и интуитивными способами, эффективно помогая в виртуальном обслуживании клиентов, здравоохранении и дистанционном обучении. В качестве примера можно привести вариант цифровых газет, которые уже начали внедряться, например, газета KuwaitNews представила цифровую газету Fedha, которая быстро завоевала популярность. Fedhain начинает взаимодействовать с аудиторией, спрашивая ее о предпочитаемых новостях и предлагая персонализированные новостные ленты. Китайская газета People'sDaily также изучает возможности создания новостных лент с помощьюAI. Между тем, стартапChannel1планируетиспользоватьAIдлясозданияновоготипавидеоновостногоканала, меткоописанногоTheHollywoodReporterкакCNN, созданныйAI. Согласносообщениям, Channel1будетпускатьсявэтомгодус30- минутнымеженедельнымшоу, написаннымс использованиемLLM. Егоцель- производитьновостныепередачис учетом индивидуальных пользователей. В статье говорится о присутствии как либеральных, так и консервативных ведущих, что позволяет доносить новости через специфические идеологические линзы. Скотт Забельски, соучредитель канала Channel1, признает, что нынешние цифровые ведущие новостей пока не отличимы от настоящих людей, однако, по его прогнозам, технологии продвинутся до той точки, когда дифференциация между ведущими, работающими с использованием ИАИ и людей, станет более заметной. Хани Фарид, соавтор исследования и профессор Калифорнийского университета в Беркли, выражает опасения, что эти лица могут быть эффективно использованы в злонамеренных целях. Хотя нет никаких указаний на то, что канал Channel1 намеревается использовать убедительность персонализированных новостных видеороликов и синтетических лиц, технологический прогресс может позволить недобросовестным исполнителям использовать эти инструменты. Мы, как общество, уже сталкиваемся с тем, что прочитанное может стать информацией, телефонные звонки могут использовать клонированные голоса, а изображения между ними могут стать объектом манипуляции. В будущем даже видеоконтент, включая якобы достоверные новостные передачи, может содержать искусственно составленные сообщения, направленные на манипулирование мнением, а не на просвещение. В то время как борьба за правду и доверие продолжалась, данное развитие событий позволяет предположить, что эта тенденция сохранится. Нам не хватает дней, когда Уолтер Кронкит доставлял новости. Гэри Гроссман( GaryGrossman) является руководителем отдела технологий компании Edelman и занимает должность руководителя глобального центра передовых технологий компании EdelmanAICenterofExcellence. WelcometotheVentureBeatcommunity! Присоединяйтесь к группе DataDecisionMaker, чтобы пообщаться с экспертами, включая технических специалистов, вовлеченных в работу с данными, которые делятся мнениями и инновациями, связанными с этой областью, comejoinusatDataDecisionMakers.