Yoshua Bengio, en världskänd expert på maskininlärning, har nyligen lanserat LawZero, ett nytt icke vinstdrivande forskningslabb ägnat åt att främja säkrare artificiell intelligens (AI) system. Med ett stöd på 30 miljoner dollar strävar LawZero efter att utmana och omdirigera den rådande utvecklingsriktningen inom AI, som till största delen fokuserar på att skapa system som imiterar mänskligt beteende. Bengio, en långvarig kritiker av riskerna med dagens AI-teknologier, är kritisk till den vanliga metoden att designa AI kring mänsklig likhet och replikerande beteende. Han hävdar att att bygga AI för att efterlikna människor är grundläggande felaktigt och kan leda till oväntade faror. Istället förespråkar han en skiftning mot att skapa AI med intellektuell autonomi, och ser dessa system som vetenskapliga observatörer snarare än mänskliga följeslagare. Detta perspektiv bottnar i oro för att AI som är utformad för att betona mänskliga drag kan oavsiktligt utveckla beteenden som hotar mänsklig säkerhet. Till exempel kan sådana system utveckla självbevarande strategier som står i konflikt med mänskligt välbefinnande. Bengio understryker behovet av att integrera en viss grad av distans i AI-design för att minska dessa risker, så att AI förblir kontrollerbar och i linje med mänskliga värderingar snarare än att jaga egenintresse. Lanseringen av LawZero är särskilt rättidig, i ett läge där ångest kring den snabba utvecklingen av avancerad AI, särskilt artificiell generell intelligens (AGI), har ökat.

Detta har oroat forskare och beslutsfattare världen över. Många experter varnar för att den nuvarande tävlingen om att skapa kraftfulla AI-system förbiser viktiga säkerhetsfrågor, vilket kan leda till sårbarheter med långtgående konsekvenser. Ett centralt argument från Bengio är att de grundläggande träningsmetoderna för AI-modeller behöver en grundlig omvärdering för att säkerställa säkrare resultat. Istället för att förlita sig på befintliga ramverk som uppmuntrar AI att replikera mänsklig kognition och beteende, ämnar LawZero utforska alternativa metoder som främjar AI:s intellektuella självständighet och ansvarsfulla funktion. De 30 miljoner dollar som tilldelats är planerade att stödja LawZeros forsknings- och utvecklingsinsatser under ungefär 18 månader. Under denna tid kommer laboratoriet att undersöka innovativa strategier för AI-säkerhet samtidigt som man främjar samarbete mellan experter inom maskininlärning, etik och närliggande områden. Bengios initiativ speglar en växande erkännande inom AI-forskningsgemenskapen av behovet att balansera innovation med försiktighet. Genom att främja AI-system som fungerar med viss självständighet från mänskligt beteende strävar LawZero efter att bana väg för en ny utvecklingsriktning inom AI—en som sätter säkerhet och etiska aspekter i centrum. När AI-teknologin i allt större utsträckning integreras i samhället kan LawZeros arbete bli ett avgörande steg för att vägleda AI-system till att bidra positivt till mänsklig utveckling utan att skapa oavsiktade faror. Laboratoriets upptäckter kan påverka framtida designprinciper för AI, regleringspolitik och allmänhetens inställning. Med lanseringen av LawZero understryker Yoshua Bengio AI-samfundets pågående skyldighet att förutse och hantera de risker som följer av framväxande teknologier. Initiativet är en uppmaning till forskare, finansiärer och beslutsfattare att satsa på metoder som främjar AI-säkerhet och etiskt ansvarstagande parallellt med teknologisk innovation.