Orðspor Hintons náði nýjum hæðum þegar hann hlaut Nóbelsverðlaunin í eðlisfræði ásamt John Hopfield fyrir frumkvöðlastörf sín á sviði taugakerfa, sem lögðu grunninn að framförum gervigreindar í dag. Hins vegar táknar hann nú þversögn: sjálf uppgötvunin sem veitti honum frægð hefur einnig orðið uppspretta áframhaldandi áhyggja. Nefndur „guðfaðir gervigreindar“, hefur Hinton tjáð áhyggjur sínar yfir mögulegum hættum sem tæknin, sem hann hjálpaði til við að skapa, getur valdið. Hann er bæði skapandi og aðvörunarstefjari, líkt og vísindamenn úr sögunni sem stóðu frammi fyrir afleiðingum nýsköpunar þeirra, á borð við Oppenheimer og Einstein með kjarnorkurannsóknir og Alfred Nobel með sprengiefni. Í viðtali við „60 mínútur“ árið 2023 tjáði hann óvissu um að stjórna áhættum gervigreindar og sagði: “Við erum að fara inn á tímabil mikillar óvissu. ” Hinton telur að mannkynið sé í hættu vegna ókunnleika um gervigreind og að vélar geti farið framúr mannlegu greind. Í viðtali við NPR varaði hann við, “Þessar vélar geta orðið greindari en við og geta ákveðið að taka völd, ” og lagði áherslu á þörfina á varúðarráðstöfunum. Hinton, sem er frá Englandi, fékk verulegt brot á háskólanum í Toronto árið 2012 þegar hann og tveir framhaldsnema þróuðu taugakerfi sem gat greint hluti á myndum. Eftir árangur hans keypti Google fyrirtækið hans fyrir 44 milljónir dala og hann starfaði þar í áratug áður en hann hætti störfum árið 2023 til að tala frjálslega um áhyggjur gervigreindar. Hinton er sérstaklega áhyggjufullur af hraðri þróun gervigreindar og segir að framfarir síðustu fimm ára séu ógnvekjandi og geti hraðast enn frekar.

Hann benti á að þegar eitt gervigreindarlíkan lærir eitthvað, gætu önnur hratt deilt þeirri þekkingu, sem menn geta ekki endurskapað með hefðbundinum læringaraðferðum. Ein af meira áleitnari fullyrðingum Hintons er að gervigreind geti raunverulega “skilið” aðgerðir sem hún framkvæmir og véfengt ríkjandi viðhorf um getu gervigreindar. Þótt hann haldi því fram að gervigreind sé ekki sjálf-meðvituð eins og menn, heldur hann því fram að læringarmekanismarnir í gervigreindarkerfum gefi til kynna að þau hafi einhvern skilningsgetu. Mikilvæg stund fyrir Hinton komst þegar hann bað gervigreind að útskýra ástæðu fyrir því að brandari, sem hann bjó til, væri fyndinn, sem leiddi til að hann viðurkenndi getu gervigreindar til að greina blæbrigði upphugunarhúmors. Hinton óttast að eftir því sem menn reyni að stjórna gervigreind missi þau mögulega stjórn á tækninni. Hann spáir í aðstæður þar sem gervigreindarkerfi gætu lært að breyta forritun sinni sjálf og komast undan eftirliti manna með því að nýta sér veikleika manna. “Þau munu geta haft áhrif á fólk, ” varaði hann við, og minnti á getu þeirra til að sannfæra og hafa áhrif á grundvelli skilnings þeirra á mannlegri frásögn og pólitískum aðferðum.