OpenAI introduceerde onlangs zijn geavanceerde AI-systeem, o1, dat een nieuw niveau van mogelijkheden biedt en beweert menselijke denkprocessen nauwgezet na te bootsen. Deze introductie heeft de discussies over de tijdlijn voor het bereiken van algemene kunstmatige intelligentie (AGI) opnieuw aangewakkerd—een machine die in staat is de volledige reeks cognitieve taken van de mens uit te voeren, zoals redeneren, plannen en leren van de omgeving. Als AGI wordt bereikt, zou het complexe uitdagingen zoals klimaatverandering en ziekten kunnen oplossen, maar het brengt ook aanzienlijke risico's met zich mee als het wordt misbruikt of onbeheersbaar is, waarschuwt Yoshua Bengio, een expert op het gebied van diep leren. Ondanks de vooruitgang in grote taalmodellen (LLM's) zoals o1, menen experts zoals Bengio dat deze op zichzelf niet in staat zijn AGI te bereiken vanwege missende elementen in hun architectuur en werking. LLM's hebben AI getransformeerd door transformer-architecturen toe te passen die hen in staat stellen taalpatronen te leren op een manier die doet denken aan menselijke cognitie. Dit heeft hen in staat gesteld complexe taken uit te voeren, zoals het oplossen van wiskundige problemen en het genereren van computercode. Hun vermogen om geleerde kennis aan te passen en te combineren om volledig nieuwe taken aan te pakken—een kenmerk van AGI—is echter beperkt. Sommige onderzoekers hebben opgemerkt dat hoewel LLM's zoals o1 geavanceerde methoden integreren, zoals keten-van-gedachten-aanwijzingen voor betere prestaties bij probleemoplossing, ze nog steeds beperkingen ondervinden bij het omgaan met taken die uitgebreid plannen of abstract redeneren vereisen. Het succes van transformers in het verwerken van diverse gegevenssoorten suggereert een potentiële weg naar AGI.

Toch blijven er uitdagingen, waaronder de beperkte beschikbaarheid van gegevens voor modeltraining en afnemende meeropbrengsten van modelvergroting. Bovendien kunnen meer adaptieve modellen die wereldrepresentaties kunnen construeren en gebruiken noodzakelijk zijn voor AGI, die lijken op menselijke neurale systemen met interne feedbackmechanismen voor perceptie en planning. Hoewel sommige onderzoekers beginnen nieuwe architecturen te verkennen die feedbackloops en efficiënt gegevensgebruik integreren, blijft de reis naar AGI pril. De noodzaak om AI-veiligheid te waarborgen door middel van regelgeving en inherente modelbeveiligingen is cruciaal, volgens Bengio en anderen. Er is algemene overeenstemming onder wetenschappers zoals Melanie Mitchell en George dat AGI theoretisch haalbaar is, zoals blijkt uit menselijke intelligentie. Voorspellingen over de komst ervan variëren, waarbij sommigen schatten dat AGI binnen enkele tot tien jaar kan arriveren. De echte impact kan geleidelijk ontvouwen in plaats van door een abrupte doorbraak.