OpenAI, l'organisation derrière ChatGPT, est passée de sa mission fondatrice de non-profit axée sur le développement d'une IA sûre et bénéfique à une entité à but lucratif. Initialement établie en 2015 par Elon Musk et d'autres, OpenAI visait à prioriser la sécurité humaine sur les rendements financiers. Cependant, des changements récents signifient que le PDG Sam Altman, qui ne détenait initialement pas de participations, gagnera des milliards en actions et un contrôle significatif sur l'entreprise. Cette transition vers une société à but lucratif à part entière a été soulignée par la démission inattendue du CTO Mira Murati, qui a laissé les employés stupéfaits. Les critiques soutiennent que ce changement démantèle la vision originale de l'organisation à but non lucratif, censée prévenir la concentration de pouvoir et assurer une focalisation sur le bénéfice public.

La structure précédente de l'entreprise permettait des rendements modestes pour les investisseurs tout en dirigeant les profits excédentaires vers des initiatives publiques, mais avec cette restructuration, ces contraintes semblent avoir été levées. Altman, qui dirige OpenAI depuis 2019, a fait face à des tensions avec le conseil d'administration à but non lucratif et les a marginalisés, consolidant ainsi son pouvoir dans le processus. Les observateurs s'inquiètent de la légalité potentielle de ce déplacement, car cela pourrait impliquer de détourner des fonds initialement destinés au bénéfice public vers des investisseurs privés. Les critiques, y compris d'anciens employés, avertissent que cela pourrait équivaloir à une forme de vol par rapport à la mission de l'organisation à but non lucratif. Ce changement soulève des inquiétudes quant à la nécessité de réguler l'IA, car les actions de Altman démontrent les risques de prioriser le profit sur la sécurité dans l'industrie de l'IA. Les défenseurs appellent à une surveillance accrue pour responsabiliser les entreprises d'IA en matière de sécurité publique, soulignant le besoin urgent d'une action réglementaire alors que la transformation de OpenAI pourrait servir de leçon de prudence pour la gouvernance future de l'IA.