Les fondateurs d'Anthropic, Daniela et Dario Amodei, ont entrepris de créer un produit d'IA éthique dans un domaine en constante évolution. Ils ont cofondé Anthropic, une entreprise spécialisée dans l'IA axée sur la sécurité et la recherche, qui développe également de puissants modèles de langue (LLM) et collabore avec des entreprises majeures. Pour garantir un futur sûr pour l'IA, Anthropic a établi des normes internes et des structures de gouvernance. Ils utilisent une technique d'apprentissage appelée IA constitutionnelle, utilisant une constitution écrite pour enseigner les valeurs et les limites à leurs modèles. La constitution évolue et s'inspire de différentes sources.

Anthropic vise à favoriser la compréhension et la collaboration dans l'industrie afin de développer l'IA de manière sécurisée. La mise à l'échelle des modèles d'IA pose des défis éthiques, notamment en termes d'impact environnemental et d'utilisation potentielle abusive. Anthropic est convaincu qu'intégrer l'éthique dans la formation de l'IA est essentiel pour créer des modèles moralement conscients. Leur objectif est de développer et de promouvoir une IA sûre, tant maintenant que dans le futur.