Geoffrey Hinton, ofta kallad "AI:s gudfader", väcktes förra året mitt i natten för att få reda på att han hade vunnit Nobelpriset i fysik. Han sa att han aldrig hade förväntat sig att få en sådan ära. “Jag drömde om att vinna ett för att lista ut hur hjärnan fungerar. Men jag har inte listat ut hur hjärnan fungerar än, ändå vann jag ett i alla fall”, kommenterade Hinton. Den 77-årige forskaren tilldelades priset för sina banbrytande bidrag till neurala nätverk—där han 1986 introducerade en metod för att förutsäga nästa ord i en sekvens—which har blivit den grundläggande principen bakom dagens stora språkmodeller. Medan Hinton tror att artificiell intelligens kommer att revolutionera områden som utbildning och medicin och möjligen hjälpa till att hantera klimatförändringar, blir han alltmer orolig över den snabba utvecklingen. “Det bästa sättet att förstå det känslomässigt är att likna oss vid någon som har en riktigt söt tigerunge, ” förklarade Hinton. “Om du inte kan vara helt säker på att den inte vill döda dig när den vuxit, bör du vara orolig. ” “Folk har inte förstått det än” AI-pionjären uppskattar att det finns en 10% till 20% chans att artificiell intelligens så småningom kommer att ta makten från människorna. “Folk har inte förstått det än, folk har inte förstått vad som är på väg, ” varnade han. Hans oro stämmer överens med den hos branschledare som Google-VD Sundar Pichai, X-AI:s Elon Musk och OpenAI:s CEO Sam Altman, som likaså har uttryckt farhågor.

Ändå kritiserar Hinton också dessa företag för att prioritera vinst över säkerhet. “Om du tittar på vad de stora företagen gör just nu, lobbar de för att minska regleringen av AI. Det finns i princip knappt någon reglering alls, men de vill ha ännu mindre, ” påpekade Hinton. Han tycks vara särskilt besviken på Google, där han tidigare arbetade, för att ha ändrat sin policy gällande militär användning av AI. Hinton hävdar att AI-företag bör lägga mycket mer av sina resurser på säkerhetsforskning—“ungefär en tredjedel” av deras datorkraft—jämfört med den lilla del de ägnar sig åt nu. CBS News kontaktade alla nämnda AI-labbar för att fråga vilken procentandel av deras datorkraft som går till säkerhetsforskning. Ingen lämnade några exakta siffror. Alla betonade vikten av säkerhet och stöd för regleringar i teorin, men har till stor del motsatt sig de regleringsförslag som lagstiftare hittills har presenterat.