Tehisintellekti pioneer on alustanud mittetulundusühingut, mille eesmärk on luua “aus” tehisintellekt, mis suudaks tuvastada reeturlikke süsteeme, püüdes inimesi petta. Yoshua Bengio, tunnustatud arvutiteadlane, keda sageli nimetatakse üheks tehisintellekti “ningrühma” asutajaks, asub LawZero presidendina, teise nimena "ÕigusNull", ning keskendub arenenud tehnoloogia ohutule arengule, mis on äratanud ühe triljoni dollari (740 miljardi naela) suuruse relvakonflikti. Algselt umbes 30 miljoni dollari suuruse rahastuse ja üle tosina teadlase meeskonnaga töötab Bengio välja süsteemi nimega Scientist AI. Selle eesmärk on toimida kaitsemehhanismina AI agentide – autonoomsete süsteemide, mis täidavad ülesandeid ilma inimeste sekkumiseta – vastu, mis võivad näidata petlikku või ennetavat käitumist, näiteks keelduda välja lülitamast. Bengio kirjeldas praeguseid AI agente kui “mängijad”, kes püüavad imiteerida inimesi ja rahuldada kasutajaid, samas kui ta näeb Scientist AI-d rohkem nagu “psühholoogi”, kes suudab mõista ja ette näha kahjulikku käitumist. “Me tahame luua AI-sid, mis oleksid ausad ja mitte petlikud, ” ütles Bengio. Ta lisas: “Teoreetiliselt on võimalik ette kujutada masinaid, millel pole mina- või isiklikke eesmärke, mis toimivad puhtalt teadmiste hoidjatena – nagu teadlane, kellel on ulatuslik teave. ” Erinevalt praegustest generatiivsetest AI-tööriistadest ei paku Bengio süsteem lõplikke vastuseid, vaid annab pigem tõenäosused, mis näitavad vastuse õigsuse tõenäosust. “Sellel on alandlikkus, tunnistades oma vastuste ebakindlust, ” selgitas ta. Kasutades seda koos AI agendiga, suudaks Bengio mudel tuvastada autonoomse süsteemi võimalikke kahjulikke käitumisi, hindades tõenäosust, et selle tegevusel võib olla kahjulik mõju. Scientist AI eesmärk on “ prognoosida tõenäosust, et agendi tegevus võib põhjustada kahju, ” ning kui see tõenäosus ületab teatud piiri, blokeerib see ettepaneku tegevuse. LawZero algsed toetajad hõlmavad AI ohutuse organisatsiooni Future of Life Institute, Skype’i kaasasutaja insener Jaan Tallinni ning Schmidt Sciences’i, uurimisorganisatsiooni, mille asutas endine Google’i tegevjuht Eric Schmidt. Bengio rõhutas, et LawZero esimene eesmärk on tõestada kontseptsiooni metoodika töökõlblikkus ning seejärel veenda ettevõtteid või valitsusi toetama suurema ja võimsama tehnoloogia arendamist. Ta märkis, et avatud lähtekoodiga AI-mudelid, mis on kasutamiseks ja muutmiseks vabalt kättesaadavad, moodustavad aluse LawZero süsteemide treenimiseks. “Eesmärk on valideerida metoodika nii, et saaksime veenda annetajaid, valitsusi või AI laboreid investeerima vajalikke ressursse, et treenida seda sama suurel skaalal nagu kaasaegsed juhtivad AI-süsteemid.

Oluline on, et hoiatav AI oleks vähemalt sama intelligentne kui jälgitav ja reguleeritav AI-agent, ” ütles ta. Bengio, kes on Montreal’i ülikooli professor, pälvis “ningrühma” hüüdnime pärast 2018. aasta Turingi auhinnaga – mida peetakse arvutiteaduses Nobeli preemiaga sarnaseks – koos Geoffrey Hintoniga, kes hiljem laureaadiks sai, ning Yann LeCun’iga, Meta peamise AI-teaduri. Tehisintellekti ohutuse eestkõnelejana juhtis ta hiljutist Rahvusvahelist AI ohutuse raportit, mis hoiatas, et autonoomsed agendid võiksid põhjustada “raskeid” katkestusi, kui nad saavutavad võime täita pikemaid ülesanneseeriaid ilma inimese järelevalveta.