Seul'deki Yapay Zeka Zirvesi'nde bulunan yapay zeka şirketleri, belirli risk eşiklerinin aşılması durumunda ileri düzey yapay zeka modellerinin geliştirilmesini durduracak bir "kapatma düğmesi" politikasını uygulama konusunda anlaşmaya varmışlardır. Bu karar, yapay zekaın geleceği ve ticarete olan etkileri konusunda bir tartışma başlatmış, uzmanlar bu politikanın yenilik ve küresel ekonomi üzerindeki etkileri ile ilgili olarak pratiklik, etkinlik ve sonuçlar konusunda sorular sormuştur. Destekçiler, kapatma düğmesinin kontrolsüz yapay zeka gelişiminin tehlikelerine karşı koruma sağlamak ve çeşitli endüstrileri devrim yaratabilecek güvenli ve etik teknoloji ilerlemelerini garanti etmek için gerekliliğini savunmaktadır. Skeptikler, kapatma düğmesinin terimleri ve pratikliği konusunda endişelerini dile getirmektedir. Onlar bunu bir araştırmanın tamamen durdurulması yerine etik standartlara uyma konusunda bir anlaşma olarak görüyor.

Riski tanımlamanın ve ölçmenin, denetlenebilir raporlar sağlamanın ve uyumu sağlamanın da sorgulandığı belirtilmektedir. Kapatma düğmesinin etkinliği konusunda şüpheler vardır ve eleştirenler, zorunlu hükümler veya güçlü düzenleyici politikalar olmadan, bu anlaşmayı gönüllü olarak kabul eden taraflara bağlıdır. Hükümetlerin yapay zeka araştırmalarını yeterince denetlemesi ve kontrolü sürdürmek için yeterince hızlı hareket etmesi konusunda da endişeler bulunmaktadır. Öz düzenlemeye ve AGI'nin kapatma düğmesini atlamasına yönelik potansiyel zorluklar vurgulanmıştır. İnovasyon ve güvenlik arasında doğru dengeyi bulmanın önemli olduğu ve riskleri ve fırsatları ele alırken yapay zekaın dönüştürücü potansiyelini desteklemek için daha spesifik düzenlemeler ve uluslararası koordinasyona ihtiyaç duyulduğu vurgulanmaktadır.