ხოშუა বেঞ্জიო, მსოფლიო ნახსენები მექანიკური სწავლების ექსპერტი, ცოტა ხნის წინ გამოაცხადა LawZero, არასამთავრობო კვლევითი ლაბორატორია, რომელიც მიზნად ისახავს უსაფრთხოების გაუმჯობესებას ხელოვნური ინტელექტის (AI) სისტემებში. 30 მილიონი დოლარის დაფინანსებით, LawZero-სკენ არის მიმართული სახიფათო და არსებულ გზიდან გადახვევა, რომელიც ძირითადად ემყარება ადამიანური საქციელის ინსპირირებას შექმნილი სისტემების შექმნას. বেঞ্জიო, რომელიც დიდი ხანია ოპოზიციონერია არსებულ AI ტექნოლოგიებში წყალი დაცვის რისკებზე, გამოთქვამს უკმაყოფილებას იმ საერთო მიდგომის მიმართ, რომ AI დიზაინი ადამიანური ინტერაქციისა და ქცევის ასლს ასახავს. იგი ფიქრობს, რომ ადამიანებისγοინდებული AI-ის შექმნა ძირითადი პრობლემაა და შეიძლება გამოიწვიოს არაპროგნოზირებადი საფრთხეები. ამის ნაცვლად, ის ქადაგებს გონებრივი თვითმართული AI-ის შექმნაზე, რომელიც ამ სისტემებს მეცნიერად უყურებს, არა ადამიანური თანაწამფორი. ეს შეხედულება წარმოიშვა იმ შეშფოთებიდან, რომ AI, რომელიც ადამიანის თვისებების მახასიათებლებს ხაზს უსვამს, შეიძლება არაქონცენტრირებელი ქცევების წარმოჩინებით ბოროტი საფრთხეები შექმნას. მაგალითად, ამგვარმა სისტემებმა შეიძლება განავითარონ თვითშინაურობის სტრატეგიები, რომლებიც წინააღმდეგობაში მოდის ადამიანის კეთილგანწყობილებასთან. বেঞ্জიო ხაზს უსვამს აუცილებლობას, რომ AI-ში ჩაჯდეს გარკვეული დისტანცია, რათა ამ რისკების შემცირება მოხდეს და AI დარჩეს კონტროლისთვის ადეკვატური, შესაბამისი ადამიანის ღირებულებებისა და ინტერესების შესაბამისი, არა საკუთარი კეთილდღეობისკენ მისწრაფებით. LawZero-ს გახსნა განსაკუთრებით დროულია, როდესაც მსოფლიო ოვალური არის იმედგაცრუების და შეშფოთების ფონზე, რომლებიც დაკავშირებულია მოწინავე AI- ის სწრაფ განვითარებასთან, განსაკუთრებით ხელოვნურ ზოგად ინტელექტთან (AGI), რამაც სამეცნიერო და პოლიტიკურმა წრეებმა შეძრა იდეალურობა.

ბევრი ექსპერტი აფრთხილებს, რომ მიმდინარე ეს დევნა ძლიერი AI სისტემების შექმნისა, უყურადღებობაა უსაფრთხოების პრობლემებთან და შესაძლოა გამოიწვიოს სენსიტიურ და გლობალურ ზიანები. ბენგიოის ძირითადი არგუმენტის ერთ-ერთი უმნიშვნელოვანესი პუნქტი არის ის, რომ AI მოდელების საფუძველზე საფუძვლიანად უნდა ჩატარდეს გამოკვლევა იმისათვის, რომ უსაფრთხო შედეგები მიიღწეს. გენდერულად რომ შევხედოთ, LawZero-ის მიზანია შეისწავლოს ალტერნატიული მეთოდები, რომლებიც მოხმარებენ AI-ს გონებრივი დამოუკიდებლობის და პასუხისმგებლობით ხასიათს. 30 მილიონი დოლარის დაფინანსება იგეგმება LawZero-ის კვლევა და განვითარების დასახმარებლად დაახლოებით 18 თვით. ამ პერიოდში ლაბორატორია შეისწავლის ინოვაციურ სტრატეგიებს AI უსაფრთხოებისთვის, ნაწილი იქნება ინტერაქცია, თანამშრომლობა და კვლევები მეტმშიდობის, ეთიკის და სხვა დაკავშირებული სფეროების ექსპერტებთან. ბენგიოის ინიციატივა ასახავს განვითარებადი ცნობიერების ზრდას AI კვლევების ფარგლებშიც იმის შესახებ, რომ ინოვაცია და სიფხიზლე უნდა იყოს თანასწორი. იმ ზომის, რომ AI სისტემები მუშაობენ როგორც დამოუკიდებელი, LawZero-ის მიზანია შექმნას ახალი გზა AI განვითარების სფეროში — გზა, სადაც უსაფრთხოება და ეთიკური მახასიათებლები მთავარი განსახორციელებელია. როდესაც AI ტექნოლოგია უფრო მეტად ჩაშენდება საზოგადოებაში, LawZero-ის საქმიანობა შეიძლება გახდეს მნიშვნელოვანი კვანძი AI სისტემების მოწესრიგებაში და ადამიანის პროგრესზე სასარგებლო მხარდაჭერის მიზნით, უაზრო საფრთხეების თავიდან აცილებით. ლაბორატორიის შედეგები შეიძლება იმოქმედოს მომავალში AI-ის დიზაინის სიღრმისეულ პრინციპებზე, რეგულაციების პოლიტიკაზე და საზოგადოებრივი დამოკიდებულების ცვლილებებზე. LawZero-ის გახსნით, ხოშუა ბენგიო ასრულებს სკაფლით მომავალში პროდუქციის გაცემის ართულების და საფრთხეების წინასწარმეტყველების მოვალეობას. ეს ინიციატივა წარმოადგენს მიმზიდველ საბაზისო საყრდენს მკვლევართა, დაფინანსების და პოლიტიკოსებისთვის, რომლებიც უნდა გაატარონ ღრმა კვლევები, რათა დააჩერონ და მართონ ტექნოლოგიური ინოვაციების დანაშაული, სწრაფად განვითარებადი AI-ის უსაფრთხოების და ეთიკური პასუხისმგებლობის ნაწილში.