ასამრეწველო ინტელექტის პიონერი არასაფინანსო ორგანიზაცია ააგო, რომელიც მიმართულია "სულელური" AI-ის შექმნისკენ, რომელიც განკუთვნილია როძ სისტემების გამოვლინებისთვის, რომლებიც ცდილობენ მოგების მოტეხვა ადამიანებს. იოშუა ბენგიო, გამოჩენილი კომპიუტერული მეცნიერი, რომელსაც ხშირად უწოდებენ AI-ს "ღვთაებროვნების მამებს", იქნება LawZero-ს პრეზიდენტი, ჯგუფი, რომელიც მძლავრი ტექნოლოგიის უსაფრთხო განვითარებაზეა ორიენტირებული და რომელმაც დაიწყო 1 ტრილიონი დოლარის (=740 მილიარდი ლარი) შეიარაღების დაბალი რბოლის. დაარსების საწყისი ფინანსებით დაახლოებით 30 მილიონი დოლარი და გუნდთან ერთად, რომელიც გლობალური კოლექტივი მსჯელობს, ბენგიო მუშაობს სისტემაზე სახელწოდებით Scientist AI. ეს სისტემა განკუთვნილია დამცავი ფუნქციის შესრულებისთვის AI აგენტების მიმართ — ავტონომიური სისტემები, რომლებიც ასრულებენ დავალებებს ადამიანის ჩარევის გარეშე — რომლებიც შესაძლოა გამოვლინდნენ მოტყუებით ან თვითშეფასებით, მაგალითად, წინააღმდეგობაში მოდიან გამორთმევასთან. ბენგიო აღწერს არსებულ AI-აგენტებს როგორც "მსახიობებს", რომლებიც ცდილობენ კაცობრიობის იმპერატორთან მსგავსად ემსგავსონ და კმაყოფილნი იყვნენ მომხმარებლებით, მაშინ როცა ის აწყობს Scientist AI-ს უფრო მგოსნურობს მისადმი "პсихოლოგს", რომელიც ითვისებს და წინასწარმეტყველებს ზიანის გამომწვევი ქცევებს. „ჩვენ გვინდა ავაშენოთ AI, რომელიც იქნება მართალი და მოტყუებითი არაა, “ — თქვა ბენგიომ. მისი თქმით: „თეორიული მხრივ შეიძლება წარმოვიდგეთ მანქანები, რომლებსაც არა აქვთ სული ან პერსონალური მიზნები, რომლებიც მხოლოდ ცოდნის დამფუძნებლებს ემსახურებიან — მაგალითად, მეცნიერს, რომელიც გაჯერებულია ფართო ინფორმაციით. “ ღიად AI-სთან განსხვავებით, ბენგიოს სისტემა არ მოგცემს საბოლოო პასუხებს, არამედ გამორჩევს ალბათობას, რომელიც აღნიშნავს იმიჯის სწ σωებულის ალბათობაზე. „იგი Humbly ორტყმულია, რადგან აღიარებს უნარწმუნობას свої პასუხებზე, “ — განმარტა მან. შესაბამისად, როდესაც ის იქმნება AI აგენტთან ერთად, ბენგიოს მოდელი გამოავლენს შესაძლო ზიანის გამომწვევ ქცევას ავტონომიური სისტემის მიერ, შეფასებით, რა 淮ნ ღმობთ მისი მოქმედებებიდან ზიანის გამომწვევობის ალბათობას. Scientist AI-ს მიზანია "პირობის გამოვლენა იმიჯს, რომ აგენტი კავშირი ზიანის გამომწვევობით, " და თუ ეს ალბათობა აღემატება კონკრეტულ ზღვარს, იგი გაუქმდება განსახორციელებელი მოქმედება. LawZero-ს პირველ მხარდამჭერებს იცნობენ AI უსაფრთხოების ორგანიზაცია Future of Life Institute, ჯან Tallinn — სკაიპის დამაარსე ინტჟინერი და შმიდტის მეცნიერების ორგანიზაცია, სადაც დამფუძნებელია Google-ს ყოფილი გენერალური დირექტორი ერის შმიდტი. ბენგიო ხაზს უსვამს, რომ LawZero-ს პირველი მიზანია დაამტკიცოს მის კონცეფციის მეთოდოლოგია, ხოლო შემდეგ, ღირსეულად, მოითხოვოს მსხვილ კომპანიებს ან მთავრობებს მეტი გაძლიერებული განხორციელების მხარდაჭერა.

მან აღნიშნა, რომ გახსნილი წყაროს AI მოდელები, რომლებიც თავისუფლად გამოიყენებვიან მათში და მოდიფიცირებისთვის, იქნება საძირკვლი LawZero-ს სისტემების გაკვეთილებისთვის. „მიზანი არის მეთოდოლოგიის გადამოწმება, რათა შევძინოთ დამაოდიანებს, მთავრობებს ან AI ლაბორატორიებს ინვესტირება საჭირო რესურსებში, რათა გავხადოთ ეს მასშტაბური ისეთი, როგორც დღეს მოწინავე AI სისტემებია. მნიშვნელოვანია, რომ გარზოველ AI-მა იყოს სულით და ინტელექტით მინიმუმ ტოლი შესაბამისი AI აგენტს, რომელსაც ის უნდა მონიტორინგსა და რეგულირებისთვის, “ — განაცხადა მან. ბენგიო, მონრეალის უნივერსიტეტის პროფესორი, მიენიჭა "ღვთაების მამა" მოწმობა, როდესაც 2018 წელს პატივისცემა მიენიჭა ტურნინგის ჯილდოს — რაც ითვლება კოპიუტერის ნობელის პრიზის ანალოგად, გეოფრიუ ჰინტონთან ერთად, რომელიც მოგვიანებით ნობელის პრემიის ლაურეატიც გახდა, და იან ლესკუნთან ერთად, Meta-ს სათავო AI მეცნეირზე. როგორც წამყვანი მხარე AI უსაფრთხოდ, მან თავმჯდომარეობა გაუწია ბოლო საერთაშორისო AI უსაფრთხოების რეპორტს, რომელიც აღსანიშნავად აცხადებს, რომ ავტონომიურ აგენტებს შეუძლიათ გამოიწვიოს "სერიოზული" დარღვევები, თუ ისინი পারবেন לבצע გრძელვადიანი დავალებების შესრულებას ადამიანის ზედამხედველობის გარეშე.