Компании по искусственному интеллекту на саммите в Сеуле достигли соглашения о введении политики "отключения" для прекращения разработки передовых моделей ИИ, если определенные пороги риска будут превышены. Это решение вызвало дебаты о будущем ИИ и его влиянии на коммерцию, с экспертами, вопрошающими о практичности, эффективности и последствиях такой политики на инновации и мировую экономику. Приверженцы аргументируют, что "отключение" необходимо для защиты от опасностей неограниченного развития ИИ и обеспечения безопасных и этичных технологических прорывов, способных изменить различные отрасли. Скептики высказали опасения относительно терминологии и практичности "отключения". Они видят его как соглашение о соблюдении этических стандартов, а не полное прекращение исследований.

Также были подняты вопросы о возможности определения и измерения риска, предоставлении проверяемых отчетов и обеспечении соблюдения положений. Появились сомнения в эффективности "отключения", критики указывают на то, что без надлежащего контроля или сильной регулирующей политики оно основано на добровольном соблюдении соглашения со стороны заинтересованных лиц. Также существуют опасения относительно способности правительств надлежащим образом контролировать исследования по ИИ и действовать достаточно оперативно, чтобы сохранить контроль. Выделены проблемы саморегулирования и возможности обхода "отключения" AGI. Отмечается, что нахождение правильного баланса между инновациями и безопасностью является критическим, и требуются более конкретные регулятивные меры и международное сотрудничество для решения рисков и возможностей ИИ, в то же время поддерживая его трансформационный потенциал.