Pendant un bref moment, ceux qui mettaient en garde contre les dangers potentiels de l'IA ont captivé l'attention du monde. Le lancement de ChatGPT en 2022 a provoqué des ondes de choc dans la communauté technologique : le fait que des programmes informatiques puissent désormais montrer une intelligence semblable à celle des humains laissait penser que d'autres avancées significatives pourraient être imminentes. Les experts qui exprimaient depuis longtemps des préoccupations concernant le potentiel de l'IA à créer des armes biologiques et le risque d'une superintelligence menaçante ont finalement trouvé une audience réceptive. Cependant, il est incertain que leurs avertissements aient eu un quelconque impact. Bien que les politiciens aient tenu de nombreuses auditions et proposé diverses mesures concernant l'IA ces dernières années, le développement de la technologie a continué largement sans entrave. Pour ceux qui s'inquiètent des possibilités destructrices de l'IA, les risques subsistent ; c'est juste que tout le monde ne fait plus attention.

Ont-ils manqué leur occasion cruciale de faire la différence ? Dans un article récent pour The Atlantic, mon collègue Ross Andersen a interviewé deux figures clés de ce groupe : Helen Toner, ancienne membre du conseil d'administration de OpenAI qui a démissionné après le licenciement inattendu du PDG Sam Altman l'année dernière, et Eliezer Yudkowsky, co-fondateur de l'Institut de recherche sur l'intelligence des machines, qui traite des menaces existentielles posées par l'IA. Ross a cherché à explorer les idées qu'ils ont tirées de leur bref moment sous les projecteurs. « Je suis ce groupe préoccupé par l'IA et les risques existentiels depuis plus de dix ans, et assister au phénomène ChatGPT était surréaliste, car ce qui était une sous-culture relativement obscure est passé au premier plan », m'a partagé Ross. « Maintenant que ce moment est passé, je voulais renouer contact et voir ce qu'ils ont appris. » Les avertissements concernant l'IA ont laissé leur marque Par Ross Andersen Lire l'article complet. À lire ensuite P. S. Aujourd'hui marque la conclusion de l'Atlantic Festival de cette année, et vous pouvez regarder les sessions sur notre chaîne YouTube. Je recommande de regarder la discussion du PDG de l'Atlantic, Nick Thompson, sur une nouvelle étude révélant une connexion inattendue entre l'IA générative et les théories du complot. — Damon