Géoffrey Hinton, souvent appelé le « parrain de l’IA », a été réveillé l’année dernière en pleine nuit pour apprendre qu’il avait remporté le prix Nobel de physique. Il a déclaré qu’il n’avait jamais anticipé recevoir une telle distinction. « Je rêvais d’en gagner un pour avoir compris comment fonctionne le cerveau. Mais je n’ai pas encore compris comment fonctionne le cerveau, et pourtant j’en ai gagné un », a déclaré Hinton. Le scientifique de 77 ans a reçu cette récompense pour ses contributions révolutionnaires aux réseaux neuronaux — notamment l’introduction en 1986 d’une méthode pour prédire le prochain mot dans une séquence — qui est devenue le principe fondamental derrière les grands modèles de langue actuels. Même si Hinton croit que l’intelligence artificielle va révolutionner des domaines comme l’éducation et la médecine, et pourrait éventuellement aider à lutter contre le changement climatique, il devient de plus en plus inquiet face à la vitesse de son développement. « La meilleure façon de le comprendre émotionnellement, c’est comme si nous étions face à un tigre en peluche vraiment adorable, » a expliqué Hinton. « À moins d’être absolument sûr qu’il ne voudra pas vous tuer une fois qu’il sera adulte, il faut s’en inquiéter. » « Les gens ne l’ont pas encore compris » L’initiateur de l’IA estime qu’il y a entre 10 % et 20 % de chances que l’intelligence artificielle prenne un jour le contrôle aux humains. « Les gens n’ont pas encore compris ce qui arrive, ils n’ont pas saisi l’ampleur du phénomène, » a-t-il averti. Ses inquiétudes rejoignent celles de leaders du secteur tels que le PDG de Google, Sundar Pichai, Elon Musk d’X-AI, et le PDG d’OpenAI, Sam Altman, qui ont également exprimé des préoccupations.

Pourtant, Hinton critique aussi ces entreprises pour privilégier le profit au détriment de la sécurité. « Si l’on regarde ce que font actuellement les grandes entreprises, elles font du lobbying pour réduire la réglementation de l’IA. Il y a à peine de réglementation, mais elles veulent encore en avoir moins, » a-t-il déclaré. Il semble particulièrement découragé par Google, où il a travaillé auparavant, pour avoir renoncé à sa politique concernant l’utilisation militaire de l’IA. Hinton affirme que les sociétés d’IA devraient consacrer beaucoup plus de ressources à la recherche sur la sécurité — « environ un tiers » de leur puissance informatique — comparé à la petite part qu’elles y consacrent actuellement. CBS News a contacté tous les laboratoires d’IA mentionnés pour demander quel pourcentage de leurs ressources informatiques est dédié à la recherche sur la sécurité. Aucun n’a fourni de chiffres précis. Tous ont souligné l’importance de la sécurité et du soutien à la réglementation en principe, mais se sont majoritairement opposés aux mesures réglementaires proposées jusqu’à présent par les législateurs.