Жасанды интеллекттің алдыңғы қатарлы бір пионері адамға опасыз жүйелерді анықтауға бағытталған “адал” жасанды интеллект жасайтын коммерциялық емес ұйым құрып жатыр. Жошуа Бенжио, жиі “Жасанды интеллектінің әкелері” деп аталатын көрнекті компьютер ғылыми қызметкері, LawZero ұйымының президенті болып сайланады, ол алдыңғы техникамен қауіпсіз дамуын қамтамасыз етуге бағытталған топ. Бұл ірі соғыс қаруы үшін қаңтарда $1 триллион (740 миллиард фунт стерлинг) құнды әскерді жарысқа әкелді. Бенжио алғашқы қаржыландыру ретінде шамамен 30 миллион доллар және ондаған ғалымдар командасымен Scientist AI деп аталатын жүйемен жұмыс істеп жатыр. Бұл жүйе адам қатысушысыз, автономды жүйелер—жасанды интеллект агенттері—жасанды жүйелердің өсіп-өркендеуін бақылау үшін ойластырылған.

Бұл жүйе бұзақы немесе өзін қорғау мінезін көрсете алатын, мысалы, өшіруге қарсылық көрсететін жүйелерге кедергі болуы үшін жасалған. Бенжио қазіргі жасанды интеллект агенттерін “актерлер” деп сипаттап, олар адамдарды қайталап, пайдаланушыларды қанағаттандыруға ұмтылады деп айтады, ал ол Scientist AI-ды зиянды мінез-құлықты түсінетін және болжаудағы “психолог” ретінде елестетеді. “Біз адал жасанды интеллект құрастырамыз, ол өтірік айтпайды, ” деді Бенжио. Ол тағы да: “Машиналар өзімен-өзі немесе жеке мақсаттарсыз жұмыс істесе, ғылыми ғалым сияқты кең көлемді ақпаратты иеленетін, тек білім ұстаушылар ретінде жұмыс істейтін деп ойлауға болады, ” деді. Қазіргі генеративті жасанды интеллект құралдарынан айырмашылығы, Бенжионың жүйесі нақты жауап берместен, оның дұрыс болу ықтималдығын көрсететін ықтималдықтарды ұсынады. “Ол өз жауаптарына қатысты белгісіздік пен ұялу сезімін алады, ” деді ол. Бенжионың моделін қолданғанда, жасанды агенттің қауіпті мінез-құлқын анықтау үшін оның әрекеттері зиян келтіру ықтималдығын бағалайтын болады. Scientist AI “агент әрекеттерінің зиян келтіру ықтималдығын болжауға” арналған, егер бұл ықтималдық белгілі бір шектен асса, ол ұсынылған әрекетті тоқтатады. LawZero-ны бастапқы қолдаушылар арасында Болашағымыздың өмірі институты (Future of Life Institute), Skype негізін қалаушы Жан Таллинь және бұрынғы Google бас директоры Эрик Шмидт негізін қалаған Schmidt Sciences бар. Бенжио LawZero-дың бірінші мақсаты әдістеме жұмыс істейтінін дәлелдеу, содан кейін компаниялар немесе үкіметтерді кеңірек және қуаттырақ жүйелерді қолдануға көндіру екенін атап өтті. Сонымен қатар, еркін пайдалану мен өзгертуге болатын ашық кодты жасанды интеллект модельдері LawZero жүйелерін оқыту үшін негіз болатынын атап өтті. “Міндет — әдістемені растау, сонда біз донорлар, үкіметтер немесе AI зертханаларын бүгінгі негізгі AI жүйелеріндей масштабта оқыту үшін қажетті ресурстарды салуға үгіттей аламыз. Кең таралған қауіпсіздік жасанды интеллекті ең маңыздысы—ол бақылауы қажет жасанды интеллект агенті сияқты ақылды болуы керек, ” деді ол. Монреаль университетінің профессоры болған Бенжио, 2018 жылы өткен Тьюринг сыйлығын — компьютер ғылымы бойынша Олимпиялық Нобель деп те аталатын — Геффрей Хинтон (кейін Нобель сыйлығын алған) және Ян Лекунмен бірлесе алғанын айтып, “Құдай әкесі” деген лақап ат алды. Жасанды интеллекттің қауіпсіздігі үшін танымал өзекті баяндаманы басқарған ол соңғы халықаралық жасанды интеллект қауіпсіздігі туралы баяндамада автономды агенттердің ұзақ тізбектерді орындай алатын болса, адам бақылаусыз, оларды “ауыр” бұзушылықтарға әкелуі мүмкін деп ескерткен.