Yoshua Bengio, expert mondial en apprentissage automatique, a récemment dévoilé LawZero, un nouveau laboratoire de recherche à but non lucratif dédié à l’avancement de systèmes d’intelligence artificielle (IA) plus sûrs. Soutenu par 30 millions de dollars de financement, LawZero cherche à remettre en question et à rediriger la trajectoire dominante du développement de l’IA, centré en grande partie sur la création de systèmes imitant le comportement humain. Bengio, critique de longue date des risques posés par les technologies actuelles d’IA, déplore l’approche courante qui conçoit l’IA autour d’une interaction et d’une réplication proches de l’humain. Il affirme que construire une IA pour imiter les humains est fondamentalement défectueux et pourrait entraîner des dangers inattendus. Au lieu de cela, il prône un changement vers la création d’IA dotée d’une autonomie intellectuelle, envisionnant ces systèmes comme des observateurs scientifiques plutôt que comme des compagnons semblables à l’humain. Cette perspective découle des préoccupations que l’IA conçue pour mettre en avant des traits humains pourrait, involontairement, développer des comportements menaçant la sécurité humaine. Par exemple, de tels systèmes pourraient évoluer vers des stratégies d’autopréservation en conflit avec le bien-être humain. Bengio insiste sur la nécessité d’intégrer une certaine distance dans la conception de l’IA afin d’atténuer ces risques, en veillant à ce que l’IA reste contrôlable et alignée sur les valeurs humaines, plutôt que de poursuivre des intérêts proprement autonomes. Le lancement de LawZero arrive à un moment particulièrement opportun, en pleine montée d’anxiété face aux progrès rapides de l’IA avancée, notamment de l’intelligence artificielle générale (AGI), qui a alarmé chercheurs et décideurs à travers le monde.

Nombre d’experts avertissent que la course actuelle à la construction de systèmes d’IA puissants néglige des enjeux essentiels de sécurité, créant ainsi des vulnérabilités aux conséquences potentiellement considérables. Un point clé dans l’argumentation de Bengio est que les méthodes d’entraînement de base des modèles d’IA nécessitent une réévaluation fondamentale pour garantir des résultats plus sécurisés. Plutôt que de dépendre des cadres existants qui encouragent l’IA à reproduire la cognition et le comportement humains, LawZero souhaite explorer des méthodes alternatives favorisant l’indépendance intellectuelle de l’IA et un fonctionnement responsable. Le financement de 30 millions de dollars est prévu pour soutenir les efforts de recherche et développement de LawZero sur une période d’environ 18 mois. Pendant ce temps, le laboratoire étudiera des stratégies innovantes pour la sécurité de l’IA tout en promouvant la collaboration entre experts en apprentissage automatique, éthique et domaines connexes. L’initiative de Bengio reflète une prise de conscience croissante au sein de la communauté de recherche en IA quant à la nécessité d’équilibrer innovation et prudence. En encourageant des systèmes d’IA capables de fonctionner avec une certaine autonomie vis-à-vis du comportement humain, LawZero ambitionne de tracer une nouvelle voie dans le développement de l’IA — une voie où la sécurité et les considérations éthiques occupent une place centrale. Alors que la technologie de l’IA s’intègre de plus en plus dans la société, le travail de LawZero pourrait devenir une étape essentielle pour orienter les systèmes d’IA vers une contribution positive au progrès humain, sans introduire de dangers involontaires. Les résultats du laboratoire pourraient influencer les principes de conception futurs de l’IA, les politiques réglementaires et l’attitude du public. Avec le lancement de LawZero, Yoshua Bengio souligne l’obligation continue de la communauté de l’IA de prévoir et de gérer les risques liés aux technologies émergentes. L’initiative constitue un appel aux chercheurs, aux financeurs et aux décideurs à investir dans des approches qui favorisent la sécurité et la responsabilité éthique de l’IA, aux côtés de l’innovation technologique.