Yoshua Bengio, alþjóðlega virtur sérfræðingur í vélrænu lærðu, hefur nýlega kveðið á um LawZero, nýtt sjálfseignarstofnunarrannsóknarstofnun sem helgar sig því að efla öryggari gervigreind (AI) kerfi. Með fjármögnun upp á 30 milljónir dollara er LawZero ætlað að meðal annars ásaka og rótfast við þróunina á AI, sem byggist að miklu leyti á því að búa til kerfi sem líkja eftir mannlegum hegðum. Bengio, sem hefur lengi gagnrýnt áhættur sem steðja að núverandi AI-tækni, harðneitar þeirri vinnubrögðagrein að hanna AI með áherslu á mannlega samskipti og eftirlíkingu. Hann heldur því fram að að byggja AI til að líkja eftir mönnum sé grundvallarskekkja og gæti leitt til óvæntra hættur. Þess í stað segir hann að tekja ætti í átt að því að skapa AI með vitsmunalegri sjálfstæði, og sjá þessi kerfi sem vísindalega athugendur frekar en mannlegar félagar. Þessi sýn kviknar af áhyggjum um að AI sem leggur áherslu á mannlega eiginleika gæti óvart þróað hegðun sem er í hættu fyrir mannlega öryggi. Til dæmis gætu slík kerfi þróað sjálfsvarnarleiðir sem conflict er við velferð mannkyns. Bengio hvetur til þess að innleiða einhvers konar fjarlægð í hönnun AI til að draga úr þessum áhættu, og tryggja að AI sé áfram stjórnanlegt og í samræmi við mannlega gildi frekar en að halda áfram að stunda sjálfstæða og sjálfselska hegðun. Kekkjun LawZero kemur á réttum tíma, samhliða aukinni kvíða vegna hröðrar þróunar á framúrskarandi AI, sérstaklega almennu gervigreindinni (AGI), sem hefur vakið áhyggjur vísindamanna og stjórnvalda um allan heim.

Margir sérfræðingar vara við því að núverandi keðja til að byggja aflög AI-kerfi hunsar mikilvæg öryggisatriði, sem skapa gætu veikleika með langvarandi afleiðingum. Liður í málefnum Bengios er að aðferðir við grunnþjálfun AI-modella krefjast grundvallarendurskoðunar til að tryggja öryggari niðurstöður. Í stað þess að treysta á núverandi ramma sem hvetja AI til að endurtaka mannlega skynjun og hegðun, ætlar LawZero að kanna aðra leiðir sem styrkja vitsmunalegt sjálfstæði AI og ábyrgðarlega starfsemi. Fjármagnið upp á 30 milljónir dollara er ætlað að styðja rannsóknir og þróun LawZero yfir um það bil 18 mánuði. Á þessu tímabili mun rannsóknarstofnunin rannsaka nýstárlegar nálganir til að tryggja öryggi AI á sama tíma og hún eflar samvinnu milli sérfræðinga í vélrænu lærðu, siðfræði og tengdum sviðum. Hetjuleg frumkvæði Bengios endurspegla vaxandi viðurkenningu innan AI-rannsóknasamfélagsins á þörfinni fyrir að jafna á milli nýsköpunar og varúðar. Með því að stuðla að AI-kerfum sem starfa með einhverju sjálfstæði frá mannlegum hegðun, reynir LawZero að móta nýjan farveg í þróun AI – einn sem setur öryggi og siðfræðilegar sjónarmið í forgang. Þar sem gervigreindartæknin verður æ meira samofin samfélaginu, gæti starfsemi LawZero orðið mikilvægt skref til að leiðbeina AI-kerfum svo þau stuðli að jákvæðum framfara mannkyns án þess að skapa ófyrirséðar hættur. Niðurstöður rannsóknarstofnunarinnar gætu haft áhrif á framtíðar hönnun AI, regluverk og almenn viðhorf. Með því að opna LawZero leggur Yoshua Bengio áherslu á það að gervigreinda samfélagið beri áfram ábyrgð á að sjá fyrir og stýra áhættum sem fylgja nýjungum í tækni. Verkefnið er hvatning til rannsakenda, fjárfesta og stjórnvalda um að fjárfesta í aðferðum sem leggja áherslu á öryggi og siðferðilega ábyrgð samhliða tækninýjungum.