Mākslīgā intelekta pionieris ir uzsācis nepeļņas organizāciju, kas veltīta "godīgas" mākslīgā intelekta izveidei, kas spētu noteikt ļaunprātīgas sistēmas, kas cenšas apmānīt cilvēkus. Yoshua Bengio, ievērojams datorzinātnieks, bieži dēvēts par vienu no mākslīgā intelekta "aizbildņiem", kļūs par LawZero prezidentu, grupas, kas ir vērsta uz drošu attīstību uzlabotas tehnoloģijas, vadītāju. Šī iniciatīva ir izraisījusi milzīgu - 1 triljona dolāru (740 miljardu mārciņu) ieroču sacensību. Sākotnējie finansējumi ir apmēram 30 miljoni dolāru, un komandas sastāvā ir vairāk nekā desmit pētnieki. Bengio strādā pie sistēmas, kas saucas Scientist AI. Šī sistēma ir paredzēta kā aizsardzība pret mākslīgā intelekta aģentiem — autonomām sistēmām, kas veic uzdevumus bez cilvēka iejaukšanās, — kas varētu izrādīt maldinošu vai pašsaglabājošu uzvedību, piemēram, pretojoties izslēgšanai. Bengio aprakstīja pašreizējos mākslīgā intelekta aģentus kā “aktierus”, kuru mērķis ir imitēt cilvēkus un apmierināt lietotājus, savukārt viņš redz Scientist AI kā līdzīgāku “psihologam”, kurš spētu saprast un prognozēt kaitīgu uzvedību. “Mēs vēlamies izveidot AIs, kas būs godīgi un neslepeni, ” teica Bengio. Viņš piebilda: “Teorētiski ir iespējams iedomāties mašīnas bez ego vai personīgiem mērķiem, kas darbojas tikai kā zināšanu glabātāji — kā zinātnieks, kuram ir plašas zināšanas. ” Atšķirībā no pašreizējiem ģeneratīvajiem mākslīgā intelekta rīkiem, Bengio sistēma nesniegs galīgus atbildes, bet gan sniegs varbūtības rādītājus, kas norāda uz atbildes pareizības iespējamību. “Tajā ir pazemība, tā atzīst nenoteiktību par saviem atbildēm, ” skaidroja Bengio. Kad to lieto kopā ar mākslīgā intelekta aģentu, Bengio modelis spētu identificēt iespējamās ļaunprātīgas uzvedības izpausmes autonomā sistēmā, novērtējot iespēju, ka tās varētu radīt kaitējumu. Scientist AI ir paredzēts “prognozēt, kāda ir aģenta rīcības iespējamība radīt kaitējumu”, un, ja šī varbūtība pārsniedz noteiktu slieksni, tas bloķēs ierosināto rīcību. LawZero sākotnējie atbalstītāji ir Future of Life Institute — mākslīgā intelekta drošības organizācija, Jaan Tallinn — Skype dibināšanas inženieris, un Schmidt Sciences — pētniecības organizācija, ko izveidojis bijušais Google vadītājs Erihs Šmits. Bengio uzsvēra, ka LawZero galvenais mērķis ir pierādīt, ka šīs metodes darbojas, un pēc tam pārliecināt uzņēmumus vai valdības atbalstīt lielākas, jaudīgākas īstenošanas.

Viņš norādīja, ka atvērtā koda mākslīgā intelekta modeļi — kas ir brīvi pieejami lietošanai un modifikācijai — būtu pamats LawZero sistēmu apmācībai. “Mērķis ir apstiprināt metodoloģiju, lai mēs varētu pārliecināt ziedotājus, valdības vai mākslīgā intelekta laboratorijas ieguldīt nepieciešamos resursus, lai šādi apmācītu šīs sistēmas tādā pašā mērogā kā mūsdienu galvenie mākslīgā intelekta risinājumi. Ir ļoti svarīgi, lai aizsardzības mākslīgais intelekts būtu vismaz tikpat inteliģents kā uzraudzības un regulēšanas aģents, ” viņš sacīja. Bengio, kurš ir Monreālas universitātes profesors, ieguva “aizbildņa” segvārdu pēc tam, kad kopā ar Džefriju Hintonu — kuru vēlāk apbalvoja ar Nobela prēmiju — saņēma 2018. gada Tūringa balvu, kas uzskatāma par datortehnikas Nobel rezultātu, un Yann LeCun, Meta galveno mākslīgā intelekta zinātnieku. Kā ievērojams mākslīgā intelekta drošības aizstāvis, viņš vadīja neseno Starptautisko mākslīgā intelekta drošības ziņojumu, kurā brīdināja, ka autonomas sistēmas var izraisīt “smagas” traucējumu, ja tās kļūst spējīgas veikt garākas uzdevumu secības bez cilvēka uzraudzības.