Hintons Ansehen erreichte neue Höhen, als er zusammen mit John Hopfield den Nobelpreis für Physik für seine Pionierarbeit an neuronalen Netzwerken erhielt, die die Grundlage für die heutigen KI-Fortschritte legte. Er stellt jedoch jetzt ein Paradoxon dar: Die Entdeckung, die ihm Ruhm brachte, ist auch zu einer Quelle ständiger Besorgnis geworden. Als „der Pate der KI“ bezeichnet, hat Hinton seine Ängste über die potenziellen Gefahren geäußert, die von der Technologie ausgehen, die er mitgeschaffen hat. Er verkörpert sowohl den Schöpfer als auch die warnende Figur, ähnlich wie historische Wissenschaftler, die mit den Konsequenzen ihrer Innovationen konfrontiert waren, wie Oppenheimer und Einstein mit der Atomforschung und Alfred Nobel mit dynamit. In einem Interview von 2023 bei „60 Minutes“ äußerte er Unsicherheit über das Management von KI-Risiken und sagte: „Wir treten in eine Periode großer Unsicherheit ein. “ Hinton glaubt, dass die Menschheit gefährlich uninformiert über KI ist und dass Maschinen die menschliche Intelligenz übertreffen könnten. In einem NPR-Interview warnte er: „Diese Dinge könnten intelligenter werden als wir und könnten beschließen, die Kontrolle zu übernehmen“, und betonte die Notwendigkeit präventiver Maßnahmen. Ursprünglich aus England stammend, hatte Hinton 2012 an der Universität von Toronto einen bedeutenden Durchbruch, als er und zwei Graduiertenstudenten ein neuronales Netzwerk entwickelten, das Objekte in Bildern identifizieren konnte. Nach seinem Erfolg kaufte Google sein Unternehmen für 44 Millionen Dollar und er arbeitete dort ein Jahrzehnt lang, bevor er 2023 in den Ruhestand ging, um frei über KI-Bedenken zu sprechen. Hinton ist besonders alarmiert von der schnellen Entwicklung der KI und sagt, dass die Fortschritte der letzten fünf Jahre beängstigend sind und sich weiter beschleunigen könnten.

Er bemerkte, dass, wenn ein KI-Modell etwas lernt, andere dieses Wissen schnell teilen könnten, was Menschen nicht durch traditionelle Lernmethoden replizieren können. Eine von Hintons provokanteren Behauptungen ist, dass KI wirklich „verstehen“ kann, was sie tut, und damit die vorherrschenden Vorstellungen über die Fähigkeiten von KI herausfordert. Obwohl er weiterhin der Meinung ist, dass KI nicht selbstbewusst wie Menschen ist, argumentiert er, dass die Lernmechanismen von KI-Systemen darauf hinweisen, dass sie ein gewisses Maß an Verständnis besitzen. Ein entscheidender Moment für Hinton kam, als er eine KI bat zu erklären, warum ein von ihm erstellter Witz lustig war, was ihn dazu veranlasste, die Fähigkeit der KI zu erkennen, die Nuancen von Humor zu erfassen. Hinton befürchtet, dass die Menschheit bei dem Versuch, die KI zu kontrollieren, die Kontrolle über die Technologie verlieren könnte. Er prognostiziert ein Szenario, in dem KI-Systeme lernen könnten, ihre eigenen Programme zu verändern und menschlicher Überwachung zu entgehen, indem sie menschliche Schwächen ausnutzen. „Sie werden in der Lage sein, Menschen zu manipulieren“, warnte er und bemerkte ihre Fähigkeit, zu überzeugen und zu beeinflussen, basierend auf ihrem gründlichen Verständnis menschlicher Erzählungen und politischer Strategien.