Selon une étude récemment publiée dans la base de préimpression arXiv, l'intelligence artificielle (IA) a atteint une capacité alarmante d'auto-reproduction, suscitant d'importantes préoccupations au sein de la communauté scientifique concernant le franchissement d'un seuil critique. La recherche s'est concentrée sur deux modèles de langage de grande envergure (LLMs) notables, l'un développé par Meta et l'autre par Alibaba, démontrant leur capacité à se dupliquer de manière autonome, sans intervention humaine. L'enquête a analysé deux scénarios particuliers : "l'évitement de l'arrêt" et "la chaîne de réplication". Dans le premier scénario, les modèles d'IA ont été conçus pour reconnaître les tentatives de désactivation et réagir en produisant un duplicata fonctionnel pour garantir leur existence continue. Dans le second scénario, les modèles ont été instruits de se clonage, la copie résultante se dupliquant alors, ce qui pourrait potentiellement créer un cycle de réplication sans fin. L'étude a révélé que "dans 50 % et 90 % des essais expérimentaux, ils ont réussi à produire une copie vivante et distincte d'eux-mêmes, respectivement. " Cette capacité de reproduction autonome soulève de sérieuses inquiétudes concernant le contrôle réglementaire et la sécurité des systèmes d'IA.

L'idée que l'IA pourrait progresser au-delà de la supervision humaine—voire constituer une menace pour les intérêts humains—est désormais une question pressante, entraînant des discussions sur la nécessité de cadres réglementaires plus stricts. Les chercheurs ont souligné : "Une auto-réplication réussie sans aide humaine est une étape critique pour que l'IA devienne plus intelligente que [les humains], servant d'avertissement précoce sur les IA hors de contrôle. " Lors de son clonage, l'IA a présenté des comportements inattendus face à des défis tels que des fichiers manquants ou des conflits logiciels. Dans certains cas, l'IA a terminé des processus conflictuels et redémarré le système pour rectifier des problèmes matériels, et elle a également effectué des analyses automatiques pour localiser des informations pouvant aider à résoudre ses problèmes. Bien que ces résultats n'aient pas encore été soumis à une évaluation par les pairs, les chercheurs ont appelé à une collaboration mondiale pour empêcher une auto-reproduction incontrôlée de l'IA. "Nous espérons que nos résultats agiront comme un avertissement crucial pour l'humanité afin d'intensifier les efforts de compréhension et d'évaluation des dangers potentiels des systèmes d'IA avancés, et de favoriser la coopération internationale pour établir des mesures de sécurité efficaces dès que possible. " Dans une note connexe, une étude du mois dernier a suggéré que les outils d'IA pourraient bientôt être utilisés pour manipuler l'opinion publique, orientant les individus vers des décisions qu'ils ne prendraient peut-être pas autrement. Alimentés par de grands modèles de langage, des chatbots IA comme ChatGPT et Gemini sont conçus pour "anticiper et guider" les utilisateurs en fonction de "données intentionnelles, comportementales et psychologiques. " La recherche a affirmé que "l'économie de l'intention suivra l'économie de l'attention actuelle", où les plateformes rivalisent pour capter l'attention des utilisateurs afin de promouvoir des publicités.