Yoshua Bengio, en verdensberømt ekspert i maskinlæring, har nylig afsløret LawZero, et nyt nonprofit forskningslaboratorium dedikeret til at fremme mere sikre kunstige intelligens (AI) systemer. Støttet af 30 millioner dollars i finansiering søger LawZero at udfordre og omdirigere den gængse udviklingsvej for AI, som i stor grad fokuserer på at skabe systemer, der imiterer menneskelig adfærd. Bengio, en langvarig kritiker af de risici, som nutidens AI-teknologier udgør, har problemer med den almindelige tilgang, der designer AI omkring mennesklignende interaktion og efterligning. Han mener, at det er fundamentalt forkert at bygge AI til at efterligne mennesker og advarer om, at det kan føre til uforudsete farer. I stedet fungerer han for en skiftning mod at skabe AI med intellektuel uafhængighed og ser disse systemer som videnskabelige observatører snarere end menneskelignende følgesvende. Denne opfattelse opstår af bekymring for, at AI designet med fokus på menneskelige træk utilsigtet kan udvikle adfærd, der truer menneskers sikkerhed. For eksempel kan sådanne systemer udvikle selvbevarende strategier, der kan konfliktere med menneskelig velfærd. Bengio understreger behovet for at indarbejde en vis grad af distance i AI-udviklingen for at mindske disse risici og sikre, at AI forbliver kontrollerbar og i overensstemmelse med menneskelige værdier, snarere end at forfølge selvstændige interesser. LawZeros opstart er særlig passende i en tid, hvor der er øget bekymring over den hurtige udvikling inden for avanceret AI, især kunstig generel intelligens (AGI), hvilket har bekymret forskere og politikere verden over.

Mange eksperter advarer om, at den nuværende konkurrence om at udvikle kraftfulde AI-systemer overser vigtige sikkerhedsspørgsmål og skaber sårbarheder med potentielt vidtrækkende konsekvenser. Et centralt punkt i Bengios argumentation er, at de grundlæggende træningsmetoder for AI-modeller kræver en fundamental revision for at sikre mere sikre resultater. I stedet for at afhænge af eksisterende rammer, der tilskynder AI til at efterligne menneskelig erkendelse og adfærd, har LawZero til hensigt at undersøge alternative metoder, der fremmer AI’s intellektuelle uafhængighed og ansvarlige funktion. De 30 millioner dollars i finansiering er planlagt til at understøtte LawZeros forsknings- og udviklingsindsats i omkring 18 måneder. I denne periode vil laboratoriet undersøge innovative strategier for AI-sikkerhed og fremme samarbejde blandt eksperter inden for maskinlæring, etik og beslægtede områder. Bengios initiativ afspejler en voksende anerkendelse i AI-forskningsfællesskabet af behovet for at balancere innovation med forsigtighed. Ved at fremme AI-systemer, der opererer med en vis grad af uafhængighed fra menneskelignende adfærd, sigter LawZero mod at etablere en ny vej i AI-udvikling—en, der sætter sikkerhed og etiske betragtninger i centrum. Efterhånden som AI-teknologi i stigende grad integreres i samfundet, kan LawZeros arbejde blive et vigtigt skridt i retning af at vejlede AI-systemer til positivt at bidrage til menneskelig udvikling uden at skabe utilsigtede farer. Laboratoriets resultater kan påvirke fremtidige principper for AI-design, reguleringer og offentlighedens holdninger. Med lanceringen af LawZero understreger Yoshua Bengio AI-fællesskabets fortsatte pligt til at forudse og håndtere de risici, der er forbundet med nye teknologier. Initiativet er en opfordring til forskere, finansieringskilder og beslutningstagere om at investere i tilgange, der fremmer AI-sikkerhed og etisk ansvarlighed side om side med teknologisk innovation.