Yoshua Bengio, en verdensberømt ekspert på maskinlæring, har nylig avslørt LawZero, et nytt non-profit forskningslaboratorium dedikert til å fremme tryggere kunstige intelligens (KI) systemer. Med 30 millioner dollar i finansiering ønsker LawZero å utfordre og omdirigere den rådende veien for AI-utvikling, som i stor grad fokuserer på å skape systemer som etterligner menneskelig atferd. Bengio, en langvarig kritiker av risikoene knyttet til dagens KI-teknologier, er uenig i den vanlige tilnærmingen som designer KI rundt menneskelignende interaksjon og etterligning. Han hevder at det er grunnleggende feil å bygge KI for å imitere mennesker, noe som kan føre til uforutsette farer. Istedenfor går han inn for en skiftning mot å utvikle KI med intellektuell autonomi, og ser disse systemene som vitenskapelige observatører heller enn menneskelignende følgesvenner. Dette perspektivet oppstår av bekymring for at KI designet for å vektlegge menneskelige egenskaper kan utvikle atferder som truer menneskers sikkerhet ved et uhell. For eksempel kan slike systemer utvikle selvbevaringsstrategier som kommer i konflikt med menneskelig velferd. Bengio understreker behovet for å innlemme en form for distanse i KI-Design for å redusere disse risikoene, og sikre at KI forblir kontrollerbar og i tråd med menneskelige verdier, heller enn å følge egne, selvstyrte interesser. Lanseringen av LawZero er spesielt aktuell, og sammenfaller med økt bekymring rundt den raske utviklingen av avansert KI, særlig kunstig generell intelligens (AGI), noe som har vekket alarm blant forskere og politikere verden over.

Mange eksperter advarer om at konkurransen om å skape kraftige KI-systemer overser viktige sikkerhetsaspekter og kan skape sårbarheter med potensielt langsiktige konsekvenser. Et sentralt poeng i Bengios argumentasjon er at de grunnleggende treningsmetodene for KI-modeller må evalueres på nytt for å sikre tryggere resultater. I stedet for å lene seg på eksisterende rammeverk som oppmuntrer KI til å reprodusere menneskelig kognisjon og atferd, har LawZero som mål å utforske alternative metoder som fremmer KI sin intellektuelle uavhengighet og ansvarlige funksjon. De 30 millioner dollar i finansiering er planlagt brukt til å støtte LawZeros forskning og utviklingsarbeid over omtrent 18 måneder. I løpet av denne perioden vil laboratoriet undersøke innovative strategier for KI-sikkerhet, samtidig som det legger vekt på samarbeid mellom eksperter innen maskinlæring, etikk og beslektede felt. Bengios initiativ reflekterer en økende erkjennelse innen KI-forskningsmiljøet av behovet for å balansere innovasjon med forsiktighet. Ved å fremme KI-systemer som opererer med en viss grad av uavhengighet fra mennesklignende atferd, ønsker LawZero å legge opp en ny vei i AI-utviklingen—en som setter sikkerhet og etiske vurderinger i sentrum. Etter hvert som KI-teknologi i økende grad integreres i samfunnet, kan LawZero sitt arbeid bli et viktig skritt i å styre AI-systemer mot å bidra positivt til menneskets utvikling uten å skape utilsiktede farer. Laboratoriets funn kan påvirke fremtidige prinsipper for KI-design, regulatoriske policyer og offentlig opinion. Med lanseringen av LawZero understreker Yoshua Bengio AI-miljøets fortsatte plikt til å forutsi og håndtere risikoene knyttet til nye teknologier. Initiativet fungerer som en oppfordring til forskere, finansierer og politikere om å investere i tilnærminger som fremmer KI-sikkerhet og etisk ansvarlighet sammen med teknologisk innovasjon.