Geoffrey Hinton, häufig als der „Pate der künstlichen Intelligenz“ bezeichnet, wurde letzten Sommer mitten in der Nacht geweckt, um zu erfahren, dass er den Nobelpreis für Physik gewonnen hat. Er sagte, dass er nie damit gerechnet hätte, eine solche Ehre zu erhalten. „Ich träumte davon, einen für das Verständnis des Gehirns zu gewinnen. Aber ich habe noch nicht herausgefunden, wie das Gehirn funktioniert, doch ich habe trotzdem einen gewonnen“, bemerkte Hinton. Der 77 Jahre alte Wissenschaftler erhielt die Auszeichnung für seine bahnbrechenden Beiträge zu neuronalen Netzwerken – unter anderem für eine Methode, mit der 1986 das Vorhersagen des nächsten Wortes in einer Sequenz entwickelt wurde – die zum grundlegenden Prinzip hinter den heutigen großen Sprachmodellen geworden ist. Während Hinton glaubt, dass künstliche Intelligenz Bereiche wie Bildung und Medizin revolutionieren und möglicherweise helfen wird, den Klimawandel zu bekämpfen, wird er zunehmend skeptischer gegenüber dem raschen Fortschritt dieser Technologie. „Die beste emotionale Einordnung ist, dass wir wie jemand sind, der einen wirklich süßen Tigerjungen hat“, erklärte Hinton. „Wenn man nicht absolut sicher sein kann, dass es ihn nicht umbringen will, wenn er erwachsen ist, sollte man besorgt sein. “ „Die Leute haben es noch nicht verstanden“ Der KI-Pionier schätzt, dass es eine Wahrscheinlichkeit von 10% bis 20% gibt, dass künstliche Intelligenz letztlich die Kontrolle vom Menschen übernimmt. „Die Leute haben es noch nicht geschnallt, sie haben nicht verstanden, was auf sie zukommt“, warnte er. Seine Sorgen decken sich mit denen von Branchenführern wie Google-CEO Sundar Pichai, Elon Musk von X-AI und OpenAI-CEO Sam Altman, die ähnliche Bedenken geäußert haben.

Dennoch kritisiert Hinton auch diese Unternehmen dafür, dass sie Profit über Sicherheit stellen. „Wenn man sich anschaut, was die großen Unternehmen momentan tun, lobbyieren sie dafür, die KI-Regulierung zu verringern. Es gibt kaum Regulierung, und sie wollen noch weniger“, erklärte Hinton. Besonders enttäuscht ist er offenbar von Google, wo er früher gearbeitet hat, weil das Unternehmen seine Politik bezüglich militärischer Nutzung von KI revidiert hat. Hinton argumentiert, dass KI-Firmen deutlich mehr Ressourcen in Sicherheitsforschung investieren sollten – etwa „ein Drittel“ ihrer Rechenleistung – im Vergleich zu dem kleinen Anteil, den sie derzeit dafür aufwenden. CBS News kontaktierte alle genannten KI-Labore, um zu erfragen, welcher Anteil ihrer Rechenressourcen in Sicherheitsforschung fließt. Keine gab konkrete Zahlen an. Alle betonten in Prinzip die Wichtigkeit von Sicherheit und unterstützen Regulierung, haben sich aber weitgehend gegen die bisher vorgeschlagenen regulatorischen Maßnahmen der Gesetzgeber ausgesprochen.