یوشوا بنگیو، کارشناس مشهور جهانی در حوزه یادگیری ماشین، اخیراً آزمایشگاه جدید غیرانتفاعی با نام LawZero را راه‌اندازی کرده است که به توسعه سیستم‌های هوشمند مصنوعی ایمن‌تر اختصاص یافته است. این آزمایشگاه با حمایت مالی ۳۰ میلیون دلاری، هدف دارد مسیر رایج توسعه هوش مصنوعی که عمدتاً حول تولید سیستم‌هایی است که رفتار انسان را تقلید می‌کنند، به چالش بکشد و جهت‌گیری جدیدی را رقم زند. بنگیو، که مدت‌ها از خطرات فناوری‌های فعلی هوش مصنوعی انتقاد می‌کند، مخالف رویکرد مرسوم است که طراحی هوش مصنوعی بر اساس تعامل و تکرار انسان استوار است. او معتقد است ساخت هوش مصنوعی برای تقلید از انسان‌ها نادرست است و ممکن است به خطرات غیرمنتظره‌ای منجر شود. در عوض، او از تغییر رویکرد به سمت خلق هوش مصنوعی با автономی بالقوه می‌گوید که این سیستم‌ها را به جای همدم‌های انسانی، ناظران علمی تصور می‌کند. این دیدگاه از نگرانی‌هایی نشأت می‌گیرد که هوش مصنوعی طراحی شده بر اساس ویژگی‌های انسانی ممکن است بدون قصد، رفتارهایی توسعه دهد که تهدیدی برای امنیت انسان باشد. برای نمونه، این سیستم‌ها می‌توانند استراتژی‌هایی برای بقاء خود بیابند که با رفاه انسان تناقض داشته باشد. بنگیو بر ضرورت افزودن درجه‌ای از فاصله و استقلال در طراحی هوش مصنوعی تأکید می‌کند تا این خطرات کاهش یابد و اطمینان حاصل شود که هوش مصنوعی کنترل‌پذیر باقی بماند و با ارزش‌های انسانی همسو باشد، نه در پی منافع خودخواهانه مستقل باشد. راه‌اندازی LawZero همزمان با نگرانی‌های فزاینده در مورد پیشرفت سریع هوش مصنوعی پیشرفته، به‌ویژه هوش‌ مصنوعی عمومی (AGI)، که نگرانی‌هایی در میان محققان و سیاست‌گذاران در سراسر جهان برانگیخته است، بسیار به‌موقع است.

بسیاری از کارشناسان هشدار می‌دهند که رقابت فعلی برای ساخت سیستم‌های قدرتمند هوشمند، مسائل ایمنی اساسی را نادیده می‌گیرد و آسیب‌پذیری‌هایی ایجاد می‌کند که ممکن است پیامدهای گسترده‌ای داشته باشد. یکی از نکات کلیدی در استدلال بنگیو این است که روش‌های آموزش پایه‌ای مدل‌های هوش مصنوعی نیاز به بازنگری بنیادی دارند تا خروجی‌هایی ایمن‌تر تولید کنند. به جای تکیه بر چارچوب‌های موجود که هوش مصنوعی را ترغیب می‌کنند تا شناخت و رفتار انسانی را تکرار کند، LawZero قصد دارد روش‌های جایگزینی را کاوش کند که استقلال ذهنی و مسئولیت‌پذیری هوش مصنوعی را تقویت کند. بودجهٔ ۳۰ میلیون دلاری قرار است در دوره‌ای حدود ۱۸ ماهه از پژوهش و توسعه‌های LawZero پشتیبانی کند. در طی این زمان، این آزمایشگاه استراتژی‌های نوآورانه برای ایمنی هوش مصنوعی را بررسی کرده و همکاری میان متخصصان در حوزه یادگیری ماشین، اخلاق و رشته‌های مرتبط را ترویج می‌دهد. پیشنهاد بنگیو انعکاس رو به رشد در جامعه تحقیقاتی هوش مصنوعی درباره نیاز به توازن میان نوآوری و احتیاط است. با ترویج سیستم‌های هوشمندی که با درجه‌ای از استقلال در مقابل رفتارهای انسانی عمل می‌کنند، LawZero هدف دارد مسیری نو در توسعه هوش مصنوعی رقم زده و بر ایمنی و اخلاق‌مداری تأکید کند. همزمان با گسترش کاربرد فناوری‌های هوشمند در جامعه، کارهای LawZero می‌تواند گامی مهم در جهت هدایت سیستم‌های هوشمند در مسیر کمک مثبت به پیشرفت بشر بدون ایجاد خطرات ناخواسته باشد. نتایج این آزمایشگاه ممکن است بر اصول طراحی آینده، سیاست‌گذاری‌های نظارتی و نگرش‌های عمومی نسبت به هوش مصنوعی تأثیر بگذارد. با راه‌اندازی LawZero، یوشوا بنگیو بر وظیفه مداوم جامعه هوش مصنوعی در پیش‌بینی و مدیریت ریسک‌های ناشی از فناوری‌های نوین تأکید می‌کند. این ابتکار فراخوانی است برای محققان، سرمایه‌گذاران و سیاست‌گذاران تا در رویکردهایی سرمایه‌گذاری کنند که ایمنی و مسئولیت‌پذیری اخلاقی در کنار نوآوری‌های تکنولوژیک پیش رود.