Los fundadores de Anthropic, Daniela y Dario Amodei, se propusieron crear un producto de IA ético en un campo en constante evolución. Co-fundaron Anthropic, una empresa de IA centrada en la seguridad y la investigación, que también construye potentes modelos de lenguaje natural (LLMs, por sus siglas en inglés) y se asocia con grandes empresas. Para garantizar un futuro de IA seguro, Anthropic ha establecido estándares internos y estructuras de gobernanza. Emplean una técnica de entrenamiento llamada IA constitucional, utilizando una constitución escrita para enseñar valores y límites a sus modelos. La constitución evoluciona y se nutre de diversas fuentes.

Anthropic tiene como objetivo fomentar la comprensión y la colaboración en la industria para desarrollar de manera segura la IA. Escalar modelos de IA plantea desafíos éticos, incluidos el impacto ambiental y el posible uso indebido. Anthropic cree que incluir la ética en el entrenamiento de IA es crucial para crear modelos conscientes moralmente. Su objetivo es desarrollar y promover una IA segura tanto en el presente como en el futuro.