Geoffrey Hinton, en britisk-kanadisk datavitenskapsmann kjent som "gudfaren" av AI, har uttrykt bekymring for potensialet til kunstig intelligens for å føre til menneskehetens utryddelse innen 30 år. Nylig tildelt Nobelprisen i fysikk for sitt AI-arbeid, anslår Hinton en "10% til 20%" sjanse for at AI kan føre til menneskelig utryddelse de neste tre tiårene, en økning fra hans tidligere 10% forutsigelse. I et intervju med BBC Radio 4 ble Hinton spurt om hans syn på en AI-apokalypse hadde endret seg. Han bekreftet: "Ikke særlig, 10% til 20%. " Da han ble spurt om de økte oddsene, svarte han: "Hvis noe. Vi har aldri møtt noe mer intelligent enn oss selv før. " Han bemerket: "Hvor ofte kontrolleres en mer intelligent enhet av en mindre intelligent?Det finnes få eksempler—som en mor og et barn. Evolusjonen lar barnet kontrollere moren, men det er det eneste eksempelet jeg kjenner. " Hinton, en emeritusprofessor ved University of Toronto, sammenlignet mennesker med småbarn i forhold til avansert AI, og sa: "Tenk på deg selv og en treåring.

Vi vil være treåringer. " Hans bekymringer kom offentlig frem etter at han forlot sin stilling i Google i 2023 for å fritt kunne diskutere farene ved AI. Han advarte om at "onde aktører" kan misbruke AI til skade. Når han reflekterte over AI's raske fremskritt, innrømmet Hinton sin overraskelse: "Jeg trodde ikke vi ville være her nå. Jeg tenkte dette var en framtidig milepæl. " Han er bekymret over at eksperter nå tror AI kan overgå menneskelig intelligens om 20 år, og kaller det "en veldig skremmende tanke. " Hinton understreket nødvendigheten av statlig regulering på grunn av den raske utviklingstakten, og advarte om at profittdrevne selskaper alene ikke vil sikre AI-sikkerhet. "Kun statlig regulering kan tvinge store selskaper til å forske på sikkerhet, " uttalte han.