Një pionier i inteligjencës artificiale ka lançuar një organizatë jofitimprurëse të përkushtuar për krijimin e një AI “të ndershme” e cila synon të zbulojë sistemet banditë që përpiqen të mashtë njerëzit. Yoshua Bengio, një shkencëtar i shquar i kompjuterave i quajtur shpesh një nga “laureat e zotit” të AI, do të shërbejë si kryetar i LawZero, një grup i fokusuar në zhvillimin e sigurt të teknologjisë së avancuar që ka shkaktuar një garë armësh prej 1 trilion dollarësh (740 miliardë paund). Me një financim fillestar prej rreth 30 milion dollarësh dhe një ekip prej më shumë se njëzet kërkuesish, Bengio po punon për një sistem të quajtur Scientist AI. Ky sistem është i menduar të veprojë si një masë mbrojtëse kundër agjentëve të AI—systeme autonome që kryejnë detyra pa ndërhyrjen e njeriut—që mund të tregojnë sjellje mashtruese ose që ruajnë veten, siç është rezistenca ndaj ndalimit. Bengio përshkroi agjentët aktualë të AI si “aktorë” që qëllim kanë të imitojnë njerëzit dhe të kënaqin përdoruesit, ndërsa ai e sheh Scientist AI si më shumë si një “psikolog” në gjendje të kuptojë dhe të parashikojë sjellje të dëmshme. “Ne duam të ndërtojmë AI që do të jenë të ndershme dhe pa mashtruar, ” tha Bengio. Ai shtoi: “Është teorikisht e mundur të imagjinohen makineri pa një vetë ose qëllime personale, që funksionojnë përmes grumbullimit të njohurive—si një shkencëtar që posedon shumë informacion. ” Ndërsa përçuesit aktualë të AI të gjenerueshëm nuk do të japin përgjigje të përcaktuara, sistemi i Bengios do të ofrojë probabilitete që tregojnë gjasat që një përgjigje është e saktë. “Ai ka mëshirë, duke pranuar pasigurinë në lidhje me përgjigjet e veta, ” shpjegoi ai. Kur përdoret së bashku me një agent AI, modeli i Bengios do të identifikojë sjellje potencialisht të dëmshme nga ana e një sistemi autonom duke vlerësuar probabilitetin që veprimet e tij mund të shkaktojnë dëm. Scientist AI është projektuar për të “parashikuar probabilitetin që veprimet e një agjenti do të çojnë në dëm, ” dhe në rast se ky probabilitet kalon një kufi të caktuar, ajo do të bllokojë veprimin e propozuar. Mbështetësit fillestar të LawZero përfshijnë organizatën për sigurinë e AI, Future of Life Institute, Jaan Tallinn—një inxhinier themelues i Skype—dhe Schmidt Sciences, një entitet kërkimor i krijuar nga ish-CEO i Google, Eric Schmidt. Bengio theksoi se objektivi i parë i LawZero është të provohet metodologjia e konceptit, dhe pastaj të bindin kompanitë ose qeveritë të mbështesin implementime më të mëdha dhe më të fuqishme.

Ai vuri re se modelet e AI me burim të hapur, të disponueshme në mënyrë të lirë për përdorim dhe modifikim, do të jenë baza për trajnimin e sistemeve të LawZero. “Qëllimi është të vërtetojmë metodologjinë në mënyrë që të mund të bindim dhuruesit, qeveritë ose laboratoret e AI të investojnë burimet e nevojshme për të trajnuar këtë në të njëjtën shkallë si sistemet kryesore të AI të sotme. Është e domosdoshme që AI mbrojtëse të jetë të paktën sa më inteligjente sa agjenti i AI që ajo synon të monitorojë dhe rregullojë, ” tha ai. Bengio, profesor në Universitetin e Monrealit, fitoi nofkën “patriarku” pasi ndau Çmimin Turing në vitin 2018—një nder i konsideruar ekuivalent me Çmimin Nobel të informatikës—me Geoffrey Hinton, i cili më vonë u bë laureat i Nobel dhe Yann LeCun, shkencëtari kryesor i AI në Meta. Si avokat i shquar për sigurinë e AI, ai kryesoi raportin e fundit ndërkombëtar për sigurinë e AI, i cili kishte paralajmëruar se agjentët autonomë mund të shkaktojnë ndërprerje “të rënda” nëse ripërpunojnë në mënyrë të pavarur një sërë detyrash pa mbikëqyrje njerëzore.