OpenAI, initialement saluée pour sa mission de développer une intelligence artificielle générale (IAG) au profit de l’humanité dans son ensemble, se trouve actuellement en plein conflit interne et en pleine mutation stratégique, ce qui suscite un débat dans les cercles de la technologie et de l’éthique. Au cœur de cette tourmente se trouvent le co-fondateur et scientifique en chef Ilya Sutskever et le PDG Sam Altman, dont les visions opposées révèlent de profondes tensions concernant les priorités de l’organisation, sa gouvernance et la gestion des défis éthiques et de sécurité liés à l’IAG. Fondée comme une organisation à but non lucratif dédiée à l’alignement de l’IAG avec les valeurs humaines et à l’amélioration du bien-être mondial, OpenAI a mis en avant dès ses débuts la transparence, la collaboration et la prudence contre les abus potentiels. Cependant, avec la croissance rapide des capacités de l’IA, l’organisation s’est tournée vers la rentabilité commerciale et le déploiement rapide de produits, créant un conflit entre innovation et responsabilité. En 2023, Sutskever a exprimé publiquement de graves inquiétudes concernant l’orientation d’OpenAI et les risques existentiels que posent l’IAG. Ses craintes étaient si prononcées qu’il a proposé des mesures telles que la construction d’un bunker sécurisé pour protéger les chercheurs clés et assurer la continuité de la recherche en cas de catastrophe liée à l’IAG — soulignant la gravité avec laquelle certains évaluaient l’enjeu du développement de l’IA. Parallèlement, les tensions au sein de la direction se sont accrues : les préoccupations de Sutskever concernant le non-respect des protocoles de sécurité se mêlaient à des critiques du style de gestion d’Altman et de la culture d’entreprise, laquelle serait marquée par la toxicité et une négligence des questions de sécurité. Cela a culminé avec une lutte de pouvoir, Sutskever et la CTO Mira Murati appelant à la démission d’Altman pour recentrer OpenAI sur la sécurité et une gouvernance éthique.

Le conflit a atteint son paroxysme en novembre 2023, lorsque Altman a brièvement été démis de ses fonctions de PDG avant de regagner rapidement le contrôle grâce au soutien solide des employés et des investisseurs. Cet épisode a mis en lumière la fragilité et la complexité de la gouvernance d’une des organisations d’IA les plus influentes, où quelques individus exercent une influence disproportionnée sur une technologie ayant un impact profond sur la société. Après cette turbulences, OpenAI a connu une expansion rapide, attirant des investissements records pour soutenir la commercialization, ce qui a suscité des critiques concernant l’exploitation des travailleurs, les lacunes dans la surveillance éthique et la concentration du pouvoir de l’IA dans quelques géants de la tech. Notamment, Sutskever et Murati ont depuis quitté OpenAI pour lancer de nouvelles initiatives axées sur un développement de l’IA plus sûr et plus éthique. Leur départ marque une étape cruciale de changement de leadership et soulève des questions sur la voie future de l’organisation. Cette saga en cours reflète des défis plus larges dans l’industrie : concilier les avancées rapides de l’IA et les impératifs commerciaux avec la nécessité d’un bénéfice équitable et d’une gestion responsable des risques. Alors que l’IA continue de transformer économies, sociétés et dynamiques de pouvoir mondiales, la question cruciale demeure : cette trajectoire actuelle favorisera-t-elle un progrès inclusif ou exacerbera-t-elle les inégalités et la concentration du pouvoir ?Les enjeux pour l’humanité restent extrêmement élevés alors qu’OpenAI, autrefois pionnière en matière d’IA éthique, navigue dans ces enjeux complexes face à la concurrence croissante et à des enjeux de plus en plus élevés.