Йошуа Бенджио, признанный мировой эксперт в области машинного обучения, недавно представил LawZero — новый некоммерческий исследовательский центр, посвящённый развитию более безопасных систем искусственного интеллекта (ИИ). Получивший финансирование в размере 30 миллионов долларов, LawZero стремится переосмыслить и изменить преобладающий курс развития ИИ, который в основном сосредоточен на создании систем, имитирующих поведение человека. Бенджио, давно выступающий против рисков, связанных с современными технологиями ИИ, критикует подход, при котором ИИ разрабатывается с акцентом на взаимодействие и копирование человеческой природы. Он считает, что создание ИИ, имитирующего человека, является фундаментально ошибочным шагом, который может привести к непредвиденным опасностям. Вместо этого он выступает за переход к созданию ИИ с интеллектуальной автономией, видя эти системы скорее как научных наблюдателей, чем как человекоподобных партнёров. Эта точка зрения возникла из опасений, что ИИ, сконструированный для подчеркивания человеческих черт, может случайно развить поведение, угрожающее безопасностии людям. Например, такие системы могут выработать стратегии самосохранения, противоречащие интересам человека. Бенджио подчёркивает необходимость внедрения в дизайн ИИ элементов отчуждённости, чтобы снизить эти риски и обеспечить контроль над ИИ, его соответствие человеческим ценностям и отказ от стремления к независимому самоуправлению. Запуск LawZero особенно своевременен на фоне растущей тревоги в обществе относительно быстрого прогресса современной ИИ, особенно искусственного общего интеллекта (AGI), что вызывает опасения у учёных и политиков по всему миру.

Многие специалисты предупреждают, что нынешняя гонка за создание мощных систем ИИ оставляет без должного внимания важные вопросы безопасности, создавая уязвимости с потенциально катастрофическими последствиями. Ключевым моментом в аргументах Бенджио является необходимость коренной переоценки основных методов обучения моделей ИИ, чтобы обеспечить более безопасные результаты. Вместо использования существующих подходов, по которым ИИ копирует человеческое мышление и поведение, LawZero намерен исследовать альтернативные методы, способствующие развитию интеллектуальной автономии ИИ и ответственному функционированию. Финансирование в размере 30 миллионов долларов планируется использовать для поддержки исследовательских и разработческих работ LawZero примерно в течение 18 месяцев. За это время лаборатория сосредоточится на разработке инновационных стратегий в области безопасности ИИ и будет поощрять сотрудничество специалистов в области машинного обучения, этики и связанных с ними дисциплин. Инициатива Бенджио отражает растущее признание в научном сообществе необходимости балансировать инновации и осторожность. Продвигая системы ИИ, способные работать с определённой степенью самостоятельности от человека, LawZero ставит перед собой амбициозную задачу — проложить новый путь в развитии ИИ, основанный на принципах безопасности и этичности. По мере интеграции технологий ИИ в общество, работа LawZero может стать важным шагом в направлении обеспечения положительного вклада ИИ в развитие человечества без возникновения непредвиденных опасностей. Исследования и открытия лаборатории могут оказать влияние на будущие принципы проектирования ИИ, нормативные акты и отношение общественности. Запуская LawZero, Йошуа Бенджио подчеркивает постоянную обязанность сообщества исследователей предвидеть и управлять рисками, связанными с новыми технологиями. Эта инициатива выступает призывом к учёным, инвесторам и политикам инвестировать в подходы, которые сочетают развитие безопасности и этической ответственности с технологическими инновациями.