Le PDG d'Anthropic, Dario Amodei, a récemment dissipé les idées selon lesquelles il serait un "catastrophiste" de l'IA à travers un long article de blog, qui suggère un avenir où l'IA atténue les risques et favorise la prospérité économique et le progrès social. Tout en reconnaissant les inconvénients de l'IA, il critique les entreprises qui exagèrent les capacités de leurs technologies, mais maintient une vision optimiste où une IA puissante—définie comme plus intelligente que les lauréats Nobel—émergera d'ici 2026. Amodei envisage cette IA exécutant des tâches complexes dans divers domaines, révolutionnant les industries et doublant finalement la durée de vie humaine grâce aux avancées en médecine et en biologie. Malgré son optimisme quant à l'IA guérissant des maladies et répondant à des problèmes comme la faim dans le monde et le changement climatique, certaines affirmations semblent excessivement ambitieuses, car les technologies de l'IA actuelles n'ont pas encore fait d'avancées significatives en médecine. Il souligne un "21e siècle compressé" potentiel où l'IA accélère le progrès dans les soins de santé, tout en reconnaissant que parvenir à cet avenir nécessiterait une immense coopération mondiale dans des domaines comme la santé et la défense des droits. Amodei aborde également les préoccupations économiques découlant des capacités de l'IA, reconnaissant le potentiel de déplacement d'emplois mais n'offrant pas de solutions concrètes.

Il soutient que les humains chercheront toujours des réalisations significatives et de la compétition, même s'ils ne sont pas récompensés économiquement. Alors qu'il défend l'IA comme catalyseur de progrès, il minimise son impact environnemental et les inégalités économiques croissantes qu'elle peut exacerber, comme on le voit dans le cas des travailleurs à bas salaires responsables de l'entraînement des systèmes d'IA. Enfin, des questions se posent quant à la synchronisation de l'essai d'Amodei, surtout qu'Anthropic recherche un financement substantiel en capital-risque, parallèlement à des tendances similaires observées avec d'autres organisations d'IA. Dans l'ensemble, bien que sa vision du potentiel de l'IA soit convaincante, elle soulève des considérations importantes sur ses risques et le tissu socio-économique qu'elle pourrait remodeler.