Sam Altman, administrerende direktør i OpenAI, antyder at superintelligens kan utvikle seg i løpet av noen få tusen dager, selv om det kan ta lengre tid. Hans kommentarer kommer i kjølvannet av lanseringen av OpenAIs avanserte språkmodell, o1, som har satt i gang diskusjoner om når kunstig generell intelligens (AGI) kan oppnås. AGI, som er vag definert, refererer til AI med resonnering, planlegging og autonomi på menneskelig nivå. Mange politikere og forskere stiller spørsmål ved AGIs potensielle fordeler og risikoer, men svarene er ikke enkle på grunn av privat sektorens dominans i AI-utvikling, der åpenhet ikke er garantert. AI-selskaper streber etter å skape systemer med omfattende menneskelignende kognitive evner for å tiltrekke seg investeringer ved å opprettholde forestillingen om at AGI er nært forestående. Til tross for fremskritt i store språkmodeller (LLM) som OpenAIs o1, Googles Gemini og Anthropics Claude, mener eksperter at disse modellene ennå ikke har oppnådd AGI. Enkelte forskere spekulerer i at fremtidige gjennombrudd kan kreve nye teknologier, informert av nevrovitenskap og kognitiv vitenskap, med fokus på å utvikle sammenhengende verdensmodeller for AI som muliggjør resonnering og generalisering på tvers av ulike områder. Forskere som Yoshua Bengio utforsker alternative AI-arkitekturer for å støtte disse avanserte modellene. Andre foreslår at mindre, mer energieffektive AI-systemer kan være mer effektive, spesielt hvis de selektivt lærer fra omgivelsene, slik Karl Friston har foreslått. Samarbeid på tvers av disipliner er avgjørende for å verifisere AI-evner og sikre at teknologiselskapenes påstander holder mål. Imidlertid er tilgang til avanserte AI-systemer utfordrende for forskere utenfor de største selskapene på grunn av ressursbegrensninger. I 2021 tildelte den amerikanske regjeringen 1, 5 milliarder dollar og EU-kommisjonen omtrent 1 milliard euro til AI-forskning.

Til sammenligning investerte globale selskaper over 340 milliarder dollar. Det finnes et forslag om et europeisk "CERN for AI" for å samle ressurser og talent for banebrytende forskning. Å forutsi AGIs ankomst er usikkert, med estimater som spenner fra noen år til et tiår. Store AI-fremskritt vil sannsynligvis komme fra industrien på grunn av tunge investeringer. Det er avgjørende at disse utviklingene er i tråd med en solid forståelse av menneskelig intelligens, ved å inkludere innsikter fra ulike vitenskapelige felt. Offentlig finansiert forskning bør spille en sentral rolle i AGIs utvikling for å sikre robuste fremskritt og dempe potensielle risikoer. Regjeringer, selskaper og forskere må gjenkjenne deres styrker for å unngå å gå glipp av verdifulle innsikter og bygge sikrere AI-systemer.