Предприятия и их технологические поставщики быстро внедряют возможности GenAI в свои инструменты и платформы. Однако важно соблюдать осторожность и не торопить процесс, так как при переходе на новый уровень могут возникнуть серьезнейшие проблемы и недостатки. В то время как на протяжении многих летAI постепенно внедрялся в деловой мир, GenAI быстро стал доминирующей силой, ускоряя процесс внедренияAI. Тем не менее, некоторые предупреждения не должны остаться без внимания. GenAI имеет потенциал для усиления существующих рисков, связанных с законодательством о защите информации, регулирующим сбор, использование, обмен и хранение чувствительных данных. Это может сделать компании уязвимыми для будущих законодательных актов. В Европе, например, уже принят закон об АИА, в котором рассматриваются вопросы генерирования АИА, хотя первоначально он был предложен до появления генерирования АИА. Кроме того, поданы судебные иски против многих поставщиков генерирования АИА, таких какOpenAI, Microsoft, Midjourney, StableDiffusion и других. В этих исках, поданных различными правообладателями, компании обвиняются в том, что они обучают своиAI на материалах, защищенных авторским правом, включая изображения, код и текст. Даже отдельные города, такие как Нью- Йорк, ввели новые правила, регулирующие использованиеAI при принятии решений, требующие проведения аудита и прозрачности автоматизированных инструментов принятия решений. Растущая обеспокоенность по поводу рисков, связанных сAI, усиливается в связи с неопределенностью в отношении нормативно- правовой базы, о чем свидетельствует проведенный в июне опрос компанииKPMGs. В результате опроса выяснилось, что 77% руководителей крупных компаний считают неопределенность нормативно- правовой базы препятствием для внедренияgenAI. Соответственно, 41% этих руководителей приняли решение взять кратковременный перерыв на шесть месяцев для изучения нормативно- правовой базы. Некоторые компании, особенно в регулируемых отраслях, подходят к внедрениюgenAI с осторожностью и ограничивают его применение областями с минимальным риском. Например, фирма, занимающаяся защитой от несчастных случаев в Чикаго, рассматривала идею использованияAItogenerated demandletters путем загрузки медицинских записей и счетов клиентов. Однако из- за опасений по поводу хранения конфиденциальной медицинской информации и связанных с этим рисков фирма решила не использовать этот подход. Кроме того, фирма запрещает сотрудникам использоватьChatGPT для написания писем клиентам. Однако есть вариант с низким уровнем риска, при котором использованиеChatGPT для создания маркетинговых стратегий в социальных сетях и генерирования идей содержания разрешено. Тем не менее, фирма подчеркивает необходимость законодательных указаний, особенно в отношении медицинских записей. Еще одна стратегия, используемая организациями, заключается в первоначальном внедренииAI в областях с низким уровнем риска. Например, энергетические компании используютAI для помощи сотрудникам в решении таких задач, как анализ геологических обследований, составление отчетов и предоставление информации. Такой подход позволяет пользователям быстро получить доступ к релевантной информации и выводам, сокращая время на решение задач. Однако компании должны убедиться, что доступ к данным надлежащим образом контролируется для предотвращения несанкционированного раскрытия и использования. Управление данными- важный аспект, требующий внимания при внедрении моделей с большим количеством языков( LLM), таких какgenAI.

Однако многие компании все еще испытывают трудности с комплексным управлением данными, особенно в случае с LLM. Консалтинговые фирмы находятся на пилотных этапах оценки LLM, и, хотя некоторые поставщики говорят о добавлении функций управления на свои платформы, в настоящее время не все необходимые функции доступны. По мере того, как компании получают более глубокое пониманиеgenAI и его использования, они должны внедрять меры предосторожности для обеспечения контроля и надлежащего использования. Это включает в себя проверку правильности управления, выделение моделей и поддержание соответствия соответствующим нормативным требованиям. Важно помнить, что нет никакой гарантии того, что генные моделиAI не дадут необъективных и ошибочных результатов. Динамическая природа моделей означает, что одни и те же запросы дают разные результаты, что затрудняет точное прогнозирование результатов. Поэтому некоторые компании рассматривают возможность использования отдельных моделейAI для определения потенциальных рисков, а также использования средств защиты, предотвращающих использование конфиденциальных данных в первую очередь. Комбинирование различных технологий и внедрение нескольких уровней безопасности может помочь снизить риски, связанные с использованиемAI. Облачные поставщики, такие какAWSиAzure, предлагают географическую инфраструктуру, позволяющую хранить данные в определенных местах, не копируя их во внешние сервисыAI. Поставщики услуг по управлению данными также входят в генерирующее пространствоAI, предлагая решения по защите конфиденциальности и соблюдению нормативных требований. Появляются доверенные поставщики, предлагающие компенсацию для снижения рисков, связанных с моделямиAI. Например, Adobe иShutterstockразвертываютAItrainedтольконалицензионныхданныхилипубличныхданных, что снижает вероятность возникновения проблем, связанных с нарушением авторских прав. Другие поставщики, включая Snowflake и Databricks, предлагают клиентам различные степени компенсации. Учитывая сложности и риски, связанные сAI, сложно рассматривать компанию как компанию, требующую внимания со стороны руководства. В то время как нормативно- правовые акты и законодательство находятся в стадии разработки, компании могут начать решать проблемы, связанные с ИИ, путем внедрения средств контроля, аналогичных тем, которые используются для других программных проектов. Специалисты по информационной безопасности и обеспечению соответствия должны тесно сотрудничать со специалистами по обработке данных. Кроме того, необходимо тщательно продумать вопросы поиска, проверки и этического использования учебных данных. В отсутствие федеральных нормативных документов в письме FTC к OpenAI приводятся рекомендации по поиску учебных данных и мониторингу того, как моделиAI формируют вводящую в заблуждение и идентифицирующую личность информацию. Для обеспечения соответствия требованиям по защите данных компании изучают возможности развертывания программных средств на местах или в частных облаках. Сотрудничество с надежными поставщиками может помочь эффективно решать проблемы защиты данных. Однако использование программного обеспечения из открытых источников сопряжено с рисками, включая уязвимости в области кибербезопасности и потенциальные проблемы регулирования. В конечном итоге, внедрение ИИ требует тщательного рассмотрения, тщательного управления и проактивного подхода к снижению рисков и устранению неясностей, связанных с регулированием.