Le débat autour de l'intelligence artificielle (IA) s'intensifie, avec des opinions divergentes sur le fait qu'elle sera bénéfique ou nuisible pour le monde. Au cœur de cette discussion se trouve Yoshua Bengio, souvent surnommé le 'Parrain de l'IA'. À 60 ans, ce scientifique canadien en informatique a considérablement fait progresser les réseaux neuronaux et l'apprentissage profond, jetant les bases des modèles d'IA contemporains comme ChatGPT et Claude. Dans une récente interview, Bengio a souligné les dangers potentiels de l'IA au niveau humain, avertissant des risques que celle-ci tombe entre de mauvaises mains et de la possibilité de perdre le contrôle sur les systèmes autonomes. Bengio, qui a partagé le prestigieux prix Turing en 2018 et a été nommé le scientifique en informatique le plus cité en 2022, prône maintenant la prudence alors que l'enthousiasme pour l'IA s'accroît, notamment parmi les investisseurs. Par exemple, les actions de Nvidia ont grimpé de 162 % cette année.

En évaluant les grands acteurs technologiques dans le domaine de l'IA, Bengio a désigné Anthropic comme le plus responsable sur le plan éthique, notant leur engagement en faveur de la sécurité et de la transparence, bien qu'il reconnaisse que toutes les entreprises subissent la pression de donner la priorité à l'avantage concurrentiel sur la sécurité publique. Il a également évoqué les préoccupations concernant la valeur exorbitante des actions d'IA et les implications d'une possible crise du marché de l'IA non contrôlée. En ce qui concerne la technologie des puces, il a souligné son rôle crucial dans l'avenir de l'IA, prédisant un besoin d'investissements significatifs dans des puces IA haute performance. Mentionnant l'objectif ambitieux de Salesforce de déployer 1 milliard d'agents autonomes d'ici 2026, Bengio a exprimé des appréhensions quant à l'atteinte d'une telle autonomie sans garde-fous réglementaires et technologiques adéquats. Enfin, il a critiqué le veto du gouverneur de Californie Newsom concernant le SB 1047, exprimant que le projet de loi visait à établir des réglementations nécessaires et une responsabilité dans le développement de l'IA, ce qu'il estime devrait être une priorité. Dans l'ensemble, Bengio plaide pour une approche prudente et transparente du développement de l'IA afin de réduire les risques et de garantir des avancées en toute sécurité. Yasmin Khorram, journaliste principale chez Yahoo Finance, a contribué à la discussion.