Os fundadores da Anthropic, Daniela e Dario Amodei, propuseram-se a criar um produto de IA ético em um campo em rápida evolução. Eles co-fundaram a Anthropic, uma empresa de IA focada em segurança e pesquisa, que também constrói modelos de linguagem poderosos (LLMs) e estabelece parcerias com grandes empresas. Para garantir um futuro seguro para a IA, a Anthropic estabeleceu padrões internos e estruturas de governança. Eles utilizam uma técnica de treinamento chamada IA constitucional, utilizando uma constituição escrita para ensinar valores e limites aos seus modelos. A constituição evolui e inspira-se em várias fontes.

A Anthropic tem como objetivo promover a compreensão e colaboração na indústria para desenvolver a IA de forma segura. A escala dos modelos de IA apresenta desafios éticos, incluindo impacto ambiental e uso indevido potencial. A Anthropic acredita que envolver a ética no treinamento de IA é crucial para criar modelos moralmente conscientes. Seu objetivo é desenvolver e promover uma IA segura tanto agora quanto no futuro.