Интервью Прежде чем ИИ станет широко распространённым в бизнесе, руководители корпораций должны взять на себя обязательство по проведению постоянных тестирований безопасности, адаптированных к особенностям моделей ИИ. Такое мнение выражают исполнительный директор Chatterbox Labs Дэнни Коулман и технический директор Стюарт Баттерсби, которые подробно обсуждали с The Register, почему компании до настоящего времени медлили с переходом от пилотных программ ИИ к полномасштабному внедрению в производство. «Сегодня внедрение в корпоративном секторе составляет всего около 10%», — сказал Коулман. «McKinsey оценивает это в четыр trillion долларов. Как вы сможете продвинуться вперёд, если будете продолжать выпускать решения, о безопасности которых пользователи не знают, или если они не осведомлены не только о влиянии на бизнес, но и о социальном воздействии?» Он добавил: «Люди внутри компаний пока не готовы к этой технологии без надлежащего управления и гарантий безопасности». В январе консалтинговая фирма McKinsey опубликовала отчёт, посвящённый неиспользованному потенциалу искусственного интеллекта (ИИ) в рабочих процессах. Отчёт с названием «Суперагент в рабочей среде: усиление возможностей людей для раскрытия полного потенциала ИИ» подчёркивал растущий интерес и инвестции в технологии ИИ, но отмечал, что темпы внедрения остаются медленными. «…что вы должны делать — не доверяйте риторике ни поставщикам моделей, ни поставщикам ограничительных рамок, потому что каждый будет говорить, что их решение очень безопасно и надёжно. » «Лидеры хотят увеличить инвестиции в ИИ и ускорить развитие, но сталкиваются с трудностями в обеспечении безопасности ИИ на рабочем месте», — говорится в отчёте McKinsey. Коулман утверждает, что традиционная кибербезопасность и безопасность ИИ — это пересекающиеся области, однако многие команды по информационной безопасности ещё не успели наверстать упущенное и зачастую не обладают необходимой экспертизой для понимания уникальных уязвимых точек ИИ. В качестве примеров он привёл приобретения Cisco Robust Intelligence и покупки Palo Alto Networks Protect AI, которые демонстрируют правильную стратегию. Баттерсби подчеркнул, что организации, планирующие развертывать ИИ в масштабах, должны внедрять систему постоянных тестирований, основанную на реальных функциях ИИ-сервиса. «Первый шаг — определить, что означает безопасность и надёжность именно для вашего конкретного случая использования», — пояснил он.

«Затем необходимо избегать доверия только заявлениям поставщика модели или поставщика ограничительных рамок, поскольку все утверждают, что их решения исключительно безопасны. » Это предостережение очень важно, отметил Баттерсби, потому что даже авторизованные пользователи системы ИИ могут вызвать её вредоносное поведение. «Что мы хотим донести — фильтры контента и ограничительные рамки сами по себе недостаточны», — заявил Коулман. «Это не изменится в ближайшее время. Решение должно быть гораздо более многоуровневым. » Хотя такой подход может иметь свои расходы, Баттерсби утверждает, что постоянное тестирование может привести к сокращению затрат за счёт демонстрации того, что меньшие и менее дорогие модели всё ещё безопасны для определённых случаев использования. Полное интервью читайте ниже…