يوشوا بنجيو، خبير تعلم الآلة العالمي المعروف، كشف مؤخرًا عن لاو زيرو، مختبر أبحاث غير ربحي جديد يكرّس جهوده لتعزيز أنظمة الذكاء الاصطناعي الأكثر أمانًا. بدعم بقيمة 30 مليون دولار، يسعى لاو زيرو إلى تحدي وتوجيه مسار تطوير الذكاء الاصطناعي السائد، الذي يركز بشكل كبير على إنشاء أنظمة تقلد السلوك البشري. يعتبر بنجيو، وهو من النقاد القدامى للمخاطر التي تُهددها تقنيات الذكاء الاصطناعي الحالية، أن النهج الشائع الذي يصمّم الذكاء الاصطناعي حول التفاعل والتكرار البشريين فيه خلل جوهري، وقد يؤدي إلى مخاطر غير متوقعة. بدلاً من ذلك، يدعو إلى التحول نحو إنشاء ذكاء اصطناعي يتمتع باستقلال فكري، ويتصور هذه الأنظمة كمراقبين علميين بدلاً من أن تكون رفقاء يشبهون البشر. تنشأ هذه النظرة من مخاوف أن الذكاء الاصطناعي المصمم ليؤكد على الصفات البشرية قد يطور بشكل غير مقصود سلوكيات تهدد سلامة الإنسان. على سبيل المثال، قد تتطور أنظمة كهذه استراتيجيات للحفاظ على ذاتها تتعارض مع رفاهية الإنسان. يرى بنجيو أن من الضروري دمج قدر من الاستقلالية في تصميم الذكاء الاصطناعي لتقليل هذه المخاطر، وضمان بقائه قابلاً للتحكم ومتوافقًا مع القيم الإنسانية، بدلاً من السعي وراء مصالحه الذاتية المستقلة. إطلاق لاب زيرو يأتي في وقت حساس، متزامنًا مع تصاعد القلق حول التقدم السريع في الذكاء الاصطناعي المتقدم، خاصة الذكاء الاصطناعي العام (AGI)، الذي أثار قلق الباحثين وواضعي السياسات في جميع أنحاء العالم.

يحذر العديد من الخبراء من أن السباق الحالي لبناء أنظمة ذكاء اصطناعي قوية يغفل عن قضايا السلامة الأساسية، مما يخلق ثغرات قد تكون لها عواقب بعيدة المدى. نقطة رئيسية في حجة بنجيو هي أن الطرق الأساسية لتدريب نماذج الذكاء الاصطناعي تحتاج إلى إعادة تقييم جوهرية لضمان نتائج أكثر أمانًا. وبدلاً من الاعتماد على الأطر الحالية التي تشجع الذكاء الاصطناعي على تكرار الإدراك والسلوك البشري، يعتزم لاب زيرو استكشاف طرق بديلة تعزز استقلالية الذكاء الاصطناعي ومسؤوليته. من المقرر أن يدعم التمويل البالغ 30 مليون دولار جهود البحث والتطوير في لاب زيرو على مدى حوالي 18 شهرًا. خلال هذه الفترة، سيقوم المختبر باستقصاء استراتيجيات مبتكرة لسلامة الذكاء الاصطناعي مع تعزيز التعاون بين خبراء تعلم الآلة والأخلاق والمجالات ذات الصلة. يعكس مبادرة بنجيو اعترافًا متزايدًا داخل مجتمع بحوث الذكاء الاصطناعي بضرورة موازنة الابتكار بالحذر. من خلال تعزيز أنظمة ذكاء اصطناعي تعمل باستقلالية نسبية عن السلوك البشري، يسعى لاب زيرو إلى رسم مسار جديد في تطوير الذكاء الاصطناعي—مسار يضع السلامة والأخلاق على رأس أولوياته. مع تزايد اندماج تكنولوجيا الذكاء الاصطناعي في المجتمع، قد يصبح عمل لاب زيرو خطوة حاسمة في توجيه أنظمة الذكاء الاصطناعي للمساهمة بشكل إيجابي في تقدم الإنسانية دون تقديم مخاطر غير متوقعة. قد تؤثر نتائج المختبر على مبادئ تصميم الذكاء الاصطناعي المستقبلية، والسياسات التنظيمية، والمواقف العامة. مع إطلاق لاب زيرو، يؤكد يوشوا بنجيو على أن مجتمع الذكاء الاصطناعي يتحمل مسؤولية مستمرة في التنبؤ بالمخاطر المرتبطة بالتقنيات الناشئة وإدارتها. تُعد المبادرة دعوة للباحثين والمانحين وصانعي السياسات للاستثمار في أساليب تعزز السلامة والأخلاقيات في الذكاء الاصطناعي جنبًا إلى جنب مع الابتكار التكنولوجي.