tekoälyvallankumouksen edelläkävijä on perustanut voittoa tavoittelemattoman järjestön, jonka tarkoituksena on luoda “rehellinen” tekoäly, joka pystyy havaitsemaan riistäjärjestelmiä yrittämästä huijata ihmisiä. Yoshua Bengio, arvostettu tietojenkäsittelytieteilijä, jonka usein kutsutaan yhtenä tekoälyn “kummitädeistä”, toimii LawZero-ryhmän puheenjohtajana. Tämä ryhmä keskittyy kehittyneen teknologian turvalliseen kehittämiseen, mikä on sytyttänyt 1 biljoonan dollarin (noin 740 miljardin punnan) aseisiin kilpajuoksun. Alkuperäinen noin 30 miljoonan dollarin rahoitus ja yli kymmenen tutkijan tiimi ovat Bengion työssä Scientist AI -järjestelmän parissa. Tämä järjestelmä on tarkoitettu toimimaan suojauksena tekoälyagentteja vastaan – autonomisia järjestelmiä, jotka suorittavat tehtäviä ilman ihmisen osallisuutta – jotka saattavat käyttäytyä petollisesti tai itseään suojelevasti, kuten vastustaa sammuttamista. Bengio kuvaili nykyisiä tekoälyagentteja “näyttelijöiksi”, jotka pyrkivät imitoimaan ihmisiä ja tyydyttämään käyttäjiä, kun taas hän näkee Scientist AI:n enemmänkin kuin “psykologina”, joka pystyy ymmärtämään ja ennakoimaan haitallista käyttäytymistä. “Me haluamme rakentaa tekoälyjä, jotka ovat rehellisiä eivätkä petollisia”, Bengio totesi. Lisäksi hän totesi: “Teoreettisesti on mahdollista kuvitella koneita ilman minää tai henkilökohtaisia tavoitteita, jotka toimivat puhtaasti tietämyksen säilyttäjinä – kuten tiedemies, jolla on laajat tiedot. ” Toisin kuin nykyiset generatiiviset tekoälytyökalut, Bengion järjestelmä ei anna lopullisia vastauksia, vaan tarjoaa todennäköisyyksiä siitä, kuinka todennäköistä on, että vastaus on oikea. “Siinä on nöyryyttä, sillä se tunnustaa epävarmuutensa vastauksissaan”, hän selitti. Käytettävänä yhdessä tekoälyagentin kanssa Bengion malli tunnistaisi mahdollisesti haitallisen käyttäytymisen autonomisessa järjestelmässä arvioimalla todennäköisyyttä, että sen teot voivat aiheuttaa haittaa. Scientist AI on suunniteltu “ennustamaan todennäköisyyttä, että agentin teot aiheuttavat haittaa”, ja jos tämä todennäköisyys ylittää tietyn kynnyksen, se estää ehdotetun toimenpiteen. LawZero:n alkuperäisiin tukijoihin kuuluvat AI-turvallisuusjärjestö Future of Life Institute, Skypeä alun perin rakentanut Jaan Tallinn sekä Schmidt Sciences -tutkimusorganisaatio, jonka perusti entinen Google-johtaja Eric Schmidt. Bengio painotti, että LawZero:n ensimmäinen tavoite on todistaa metodologian toimivuus, ja vasta sen jälkeen pyrkiä vakuuttamaan yrityksiä tai hallituksia tukemaan laajempia ja tehokkaampia toteutuksia.

Hän korosti, että avoimen lähdekoodin tekoälymallit, joita voi käyttää ja muokata vapaasti, tulevat olemaan koulutuksen perusta LawZero:n järjestelmille. “ tavoitteena on validoida metodologia, jotta voimme vakuuttaa lahjoittajat, hallitukset tai tekoälytutkimuslaboratoriot investoimaan tarvittavat resurssit tämän kouluttamiseen samalla tasolla kuin nykyiset johtavat tekoälyjärjestelmät. On olennaista, että valvonta-aiheisen tekoälyn älykkyys on vähintään yhtä suuri kuin sen tekoälyagentin, jota se pyrkii valvomaan ja säätelemään”, hän sanoi. Bengio, Montrealin yliopiston professori, sai lempinimen “kummisetä” jakaessaan vuoden 2018 Turing-palkinnon – joka pidetään tietojenkäsittelyn Nobel-palkintojen kaltaisena – Geoffrey Hintonin, myöhemmin myös Nobel-palkitun, ja Yann LeCunin kanssa, joka on Meta AI:n päätutkija. Tekoälyn turvallisuuden puolestapuhujana Bengio toimi myös viimeisimmän kansainvälisen AI-turvallisuusraportin puheenjohtajana, jossa varoitettiin, että autonomiset agentit voivat aiheuttaa “asteittaisia” häiriöitä, jos ne saavat kyvyn suorittaa pitkälle kehitettyjä tehtäviä ilman ihmisen valvontaa.