"L'intelligence donne le pouvoir. Alors, qui va contrôler ce pouvoir?" Théorie Marginale Un pionnier de l'IA de renom avertit que non seulement la technologie de plus en plus puissante pourrait nuire au monde, mais que ceux qui la contrôlent pourraient également poser des risques significatifs. Dans une interview avec CNBC, l'expert en informatique Yoshua Bengio a exprimé des inquiétudes concernant une "frange" technologique cherchant à remplacer les humains par l'IA. Bengio dirige l'Institut des Algorithmes d'Apprentissage de l'Université de Montréal et a signé la lettre ouverte "Right to Warn" par des chercheurs d'OpenAI déclarant qu'ils sont réduits au silence concernant les dangers de l'IA. Connu avec Yann LeCun et Geoffrey Hinton comme les "parrains" de l'IA, Bengio a demandé, "Qui va contrôler ce pouvoir?" lors du One Young World Summit à Montréal. "Il y a des personnes qui pourraient vouloir abuser de ce pouvoir, et certaines qui pourraient accueillir avec bienveillance le remplacement des humains par des machines, " Bengio a averti.

"Cette frange peut acquérir un pouvoir significatif à moins que nous établissions des mesures de protection dès maintenant. " L'argent Parle Les systèmes d'IA nécessitent des milliards pour se développer, soulignant l'importance de l'influence financière. "Très peu d'organisations et de pays peuvent se le permettre, " Bengio a noté. "Cela se produit déjà. " "Il y aura une concentration de pouvoir : économique, potentiellement nuisible aux marchés ; politique, possiblement menaçant la démocratie ; et militaire, potentiellement déstabilisant la géopolitique, " a-t-il ajouté. Les experts débattent de la faisabilité et du calendrier pour atteindre l'intelligence artificielle générale ou l'IA au niveau humain. Bengio suggère que nous serons en difficulté si cela survient avant la mise en place de politiques globales. "Si c'est dans cinq ans, nous ne sommes pas prêts, " a-t-il souligné, "car nous manquons de méthodes pour garantir que ces systèmes ne nuiront pas ou ne se retourneront pas contre les gens. " Bien qu'il ne soit pas le premier à avertir des dangers de l'IA, les idées de Bengio ont du poids compte tenu de son rôle dans son développement. Plus sur les avertissements AGI : Les passionnés de l'IA craignent que la Singularité puisse se produire sous la présidence de Trump.