Yoshua Bengio, pasaulē plaši atzīts mašīnmācīšanās eksperts, nesen atklāja LawZero — jaunu nevalstiskās pētniecības laboratoriju, kas veltīta drošāku mākslīgā intelekta (AI) sistēmu izstrādei. Ar 30 miljonu dolāru finansējumu LawZero vēlas izaicināt un novirzīt esošo AI attīstības ceļu, kas lielākoties koncentrējas uz sistēmu radīšanu, kas imitē cilvēka uzvedību. Bengio, kas ilgstoši kritizē esošo AI tehnoloģiju riskus, izsaka pretenzijas pret bieži pieņemto pieeju, kuras mērķis ir veidot AI ap cilvēka līdzīgu mijiedarbību un atkārtošanu. Viņš uzskata, ka veidot AI, kas līdzinās cilvēkiem, ir pēc būtības kļūdains un var novest pie neparedzētām briesmām. Tā vietā viņš iestājas par pāreju uz AI radīšanu ar intelektualām autonomijām, iedomājoties šīs sistēmas kā zinātniskus novērotājus, nevis kā cilvēka līdzīgas pavadoņus. Šī perspektīva rodas no bažām, ka AI, kas tiek veidots uz cilvēka īpašību izcelšanu, var nejauši attīstīt uzvedības modeļus, kas apdraud cilvēku drošību. Piemēram, šādas sistēmas varētu attīstīt pašsaglabāšanās taktikas, kas konfliktē ar cilvēka labklājību. Bengio uzsver vajadzību AI izstrādē ieviest noteiktu distancēšanās aspektu, lai samazinātu šos riskus un nodrošinātu, ka AI paliek kontrolējams un saskan ar cilvēka vērtībām, nevis sekot tam patstāvīgiem interesēm. LawZero uzsākšana ir īpaši savlaicīga, ņemot vērā pieaugošo satraukumu par akūtu progresu sarežģītākā AI, īpaši vispārējā mākslīgā intelekta (AGI), jomā, kas ir satraukusi pētniekus un politikas veidotājus visā pasaulē.

Daudzi eksperti brīdina, ka pašreizējā sacensība pēc spēcīgiem AI sistēmām ignorē būtiskas drošības problēmas, radot ievainojamības, kas varētu novest pie plašām sekām. Viens galvenais punkts Bengio argumentā ir tas, ka pamata apmācības metodes AI modeļu izstrādē ir nepieciešams būtiski pārskatīt, lai nodrošinātu drošākus rezultātus. Tā vietā, lai balstītos uz esošiem modeļiem, kas veicina AI atkārtošanu cilvēka domāšanas un uzvedības jomā, LawZero plāno izpētīt alternatīvas metodes, kas veicina AI intelektuālo neatkarību un atbildīgu darbību. 30 miljonu dolāru finansējums ir plānots atvēlēt LawZero pētniecības un izstrādes darbības atbalstam aptuveni 18 mēnešus. Šajā laikā laboratorija pēta inovatīvas stratēģijas AI drošības uzlabošanai, veicinot sadarbību starp mašīnmācīšanās, ētikas un citu ar šo jomu saistītu ekspertu vidū. Bengio iniciatīva atspoguļo pieaugošo apzināšanos AI pētniecības kopienā par nepieciešamību līdzsvarot inovāciju ar piesardzību. Veicinot AI sistēmas, kas darbojas ar kādu neatkarību no cilvēka līdzīgas uzvedības, LawZero cenšas noteikt jaunu ceļu AI attīstībā — tādu, kas balstās uz drošību un ētiskajām apsvērumiem. Līdz ar AI tehnoloģiju pastāvīgu integrāciju sabiedrībā, LawZero darbs var kļūt par būtisku soli, vadot AI sistēmas tā, lai tās veicinātu cilvēku progresu, neradot neparedzētas briesmas. Laboratorijas atklājumi var ietekmēt nākotnes AI dizaina principus, regulējuma politiku un sabiedrības attieksmi. Ar LawZero atklāšanu Yoshua Bengio uzsver AI kopienas pastāvīgo pienākumu prognozēt un pārvaldīt jauninājumu radītos riskus. Šī iniciatīva ir aicinājums pētniekiem, finansētājiem un politikas veidotājiem investēt pieejās, kas attīsta AI drošību un ētisko atbildību, vienlaikus veicinot tehnoloģisko inovāciju.