بهار گذشته، دانیل کوکوتایلو، محقق ایمنی هوش مصنوعی در OpenAI، در اعتراض استعفا داد. او معتقد بود شرکت برای آینده فناوری‌های هوش مصنوعی آماده نیست و می‌خواست هشداری بدهد. در یک گفتگوی تلفنی، ظاهر دوستانه‌ای داشت اما نگران بود و توضیح داد که پیشرفت در «هماهنگی» هوش مصنوعی — روش‌هایی که تضمین می‌کنند هوش مصنوعی ارزش‌های انسانی را رعایت کند — از پیشرفت‌های هوشمندی عقب مانده است. او هشدار داد که محققان در مسیر ساخت سیستم‌هایی قدرتمند و خارج از کنترل سریع حرکت می‌کنند. ک Kokotajlo، که تحصیلاتش از فلسفه به هوش مصنوعی تغییر یافته بود، خودآموزی کرده بود تا روند پیشرفت هوش مصنوعی را پیگیری کند و زمان تقریبی رسیدن به مراحل بحرانی هوشمندی را پیش‌بینی کند. بعد از آنکه سرعت پیشرفت هوش مصنوعی فراتر از حد انتظار شد، زمان‌بندی‌هایش را دهه‌ها اصلاح کرد. سناریوی او در سال ۲۰۲۱، تحت عنوان «چشم‌انداز ۲۰۲۶»، بسیاری از پیش‌بینی‌های اولیه را زودتر محقق دید، و او را به این باور رساند که تا سال ۲۰۲۷ یا زودتر، نقطه «بی‌بازگشت» می‌تواند تحقق پیدا کند؛ جایی که هوش مصنوعی بر انسان‌ها در بیشتر وظایف حیاتی غلبه می‌کند و قدرت زیادی را در دست می‌گیرد. او نگران به نظر می‌رسید. در همان زمان، سایاش کاپور و آرون نروانان، دانشمندان کامپیوتر دانشگاه پراینستون، کتاب «روغن زنبوردرمانی هوش مصنوعی» را آماده می‌کردند که دیدگاهی کاملاً متفاوت داشت. آن‌ها معتقد بودند که جدول زمانی‌های هوش مصنوعی اغراق‌آمیز است؛ ادعاهای مفید بودن هوش مصنوعی اغلب بزرگنمایی یا جعلی است؛ و پیچیدگی دنیای واقعی نشان می‌دهد که اثرات تحولی هوش مصنوعی بلندمدت و کند خواهند بود. نمونه‌هایی از اشتباهات هوش مصنوعی در پزشکی و استخدام را ذکر می‌کردند و تأکید می‌کردند که حتی جدیدترین سیستم‌ها با یک فاصله بنیادی از واقعیت دچار مشکل هستند. اخیراً، هر سه دیدگاه خود را در گزارش‌های جدیدی تقویت کرده‌اند. مؤسسه غیرانتفاعی کوکوتایلو، پروژه آینده‌های هوش مصنوعی، گزارشی با عنوان «هوش مصنوعی ۲۰۲۷» منتشر کرد که سناریویی ترسناک و جزئیات کامل دربارهٔ امکان غلبه ماشین‌های superintelligent بر بشر تا سال ۲۰۳۰ ارائه می‌دهد—یک هشدار جدی. در مقابل، مقاله کاپور و نروانان، «هوش مصنوعی به عنوان فناوری نرمال»، بر این باور استوار است که موانع عملیاتی—از مقررات و استانداردهای ایمنی گرفته تا محدودیت‌های فیزیکی در جهان واقعی—پیشروی هوش مصنوعی را کند و اثر انقلابی آن را محدود می‌کند. آن‌ها معتقدند هوش مصنوعی همچنان «فناوری عادی» باقی می‌ماند، قابل کنترل با تدابیر امنیتی آشنا مانند کلیدهای قطع و نظارت انسانی، و بیشتر شبیه نیروی هسته‌ای تا سلاح هسته‌ای. پس، کدام راه صحیح است: کسب‌وکار عادی یا آشوب‌های آخرالزمانی؟ نتیجه‌گیری‌های کاملاً متفاوت این گزارش‌ها، پارادوکسی مانند مناقشه دربارهٔ روحانیت با حضور ریشارد داوکینز و پاپ ایجاد می‌کند. بخشی از این تفاوت‌ها به نوظهوری هوش مصنوعی برمی‌گردد—مانند مردان نادان که بخش‌های مختلف یک فیل را بررسی می‌کنند—و بخشی دیگر به تفاوت‌های عمیق در دیدگاه‌های جهان‌شناسانه.

معمولاً، اندیشمندان فناوری در ساحل غربی نگاه سریع و انقلابی دارند؛ در حالی که دانش‌آموختگان ساحل شرقی کمی محتاط‌ترند. پژوهشگران هوش مصنوعی به پیشرفت سریع و آزمایشی علاقه‌مندند؛ دیگر پژوهشگران کامپیوتر بر rigor نظرات تأکید می‌کنند. صاحبان صنعت می‌خواهند تاریخ‌ساز شوند؛ منتقدان تکنولوژی های فضاسازی‌های تبلیغاتی را رد می‌کنند. دیدگاه‌های سیاسی، انسانی و فلسفی دربارهٔ فناوری، پیشرفت و ذهن، این شکاف را عمیق‌تر می‌کند. این گفتگوهای جذاب خود مسأله‌ای است. اغلب صاحبان صنعت، اصول «هوش مصنوعی ۲۰۲۷» را می‌پذیرند، اما بر سر زمان‌بندی‌ها اختلاف دارند—که نوعی پاسخ ناکافی است، مانند بحث بر سر زمان‌بندی پیش‌ازاینکه یک سیاره‌کش نزدیک باشد. بالعکس، دیدگاه‌های میانه در «هوش مصنوعی به عنوان فناوری عادی» بر مانعاتی مانند مقررات و سیستم‌های ایمنی تمرکز دارند که در آن‌ها، پیچیدگی‌ها و محدودیت‌های فیزیکی، تداخل در پیاده‌سازی و توسعه سریع را محدود می‌کنند. آن‌ها بر این باورند که هوش مصنوعی کم‌تر از چیزی است که تصور می‌شود، و اثرات آن پیوسته و آرام خواهد بود. آنها این موضوع را با نمونه‌هایی مانند کاربرد محدود خودروهای بدون سرنشین و واکسن کووید-۱۹ مدرنا نشان می‌دهند: هرچند طراحی واکسن سریع بود، اما فرآیند توزیع و اجرا یک سال طول کشید، زیرا واقعیت‌های زیستی و ساختاری این حوزه پیچیده است. هوش مصنوعی در حال تسریع نوآوری است، اما بر محدودیت‌های ساختاری، قانونی و فیزیکی برای اجرای آن تأثیر ندارد. علاوه بر این، نروانان تأکید می‌کند که تمرکز بر هوشمندی در هوش مصنوعی، تخصص زمینه‌ای و سیستم‌های ایمنی قبلی در مهندسی—مثل سیستم‌های نگهداری، redundancies، و تأییدهای رسمی—را نادیده می‌گیرد که پیش از انسان، امنیت ماشین‌ها را تضمین می‌کنند. جهان فناوری با مقررات خوبی تنظیم شده است و هوش مصنوعی باید به‌آرامی وارد این ساختار شده و خودش را جای دهد. آن‌ها از هوش مصنوعی نظامی اثربخشی متفاوت دارند، زیرا این حوزه دارای دینامیک خاص و محرمانه است و هشدار می‌دهند که نظامی‌سازی هوش مصنوعی، که یکی از ترس‌های اصلی «هوش مصنوعی ۲۰۲۷» است، نیازمند نظارت متمرکز است. برای مدیریت پیشگیری، توصیه می‌کنند: قانون‌گذاران و سازمان‌ها نباید منتظر رسیدن به تطابق کامل باشند، بلکه باید بر رصد کاربردهای واقعی، خطرات و شکست‌ها تمرکز کنند و قوانین و مقاوم‌سازی‌ها را تقویت کنند. تفاوت‌های عمیق دیدگاهی، نتیجه واکنش‌های فکری و ذهنی است که بر اثر تحریکات هوش مصنوعی آغاز شده است، و باعث تشکیل اردوگاه‌های مقابل و حلقه‌های بازخورد شده است. با این حال، تصور دیدگاهی واحد از آن ممکن است، با فرض «کارخانه شناختی»: فضایی که انسان‌ها با تجهیزات ایمنی کار می‌کنند، در آن ماشین‌ها برای بهره‌وری و ایمنی طراحی شده، و نوآوری‌ها به‌تدریج وارد می‌شوند و پاسخ‌گویی مشخص است. هرچند هوش مصنوعی قدرت خودکار کردن برخی فرآیندهای فکری را دارد، اما نظارت و مسئولیت انسانی همچنان اولویت است. در حال رشد، هوش مصنوعی بر انسان‌ها تأثیر نمی‌گذارد، بلکه نیاز به پاسخگویی را تقویت می‌کند، چون انسان‌های تقویت شده مسئولیت بیشتری بر عهده دارند. کنار گذاشتن کنترل، یک انتخاب است—و در نهایت، انسان‌ها همچنان در رأس قدرت باقی می‌مانند.