Założyciele firmy Anthropic, Daniela i Dario Amodei, postawili sobie za zadanie stworzenie etycznego produktu opartego na sztucznej inteligencji w dynamicznie rozwijającym się obszarze. Współzałożyli firmę Anthropic, która skupia się na szeroko rozumianym bezpieczeństwie i badaniach związanych z AI, tworząc również potężne modele językowe oraz współpracując z dużymi firmami. W celu zapewnienia bezpiecznej przyszłości AI, Anthropic wprowadziła wewnętrzne standardy i struktury zarządzania. Wykorzystuje ona technikę szkolenia opartą na tzw. konstytucjonalnej AI, używając pisanej konstytucji do przekazania wartości i ograniczeń swoim modelom.

Konstytucja ta ewoluuje i czerpie z różnych źródeł. Anthropic stawia sobie za cel wspieranie zrozumienia i współpracy w branży w celu bezpiecznego rozwoju AI. Skalowanie modeli AI rodzi wyzwania etyczne, w tym wpływ na środowisko i potencjalne nadużycia. Anthropic uważa, że włączenie etyki w szkolenie AI jest kluczowe dla stworzenia modeli moralnie świadomych. Ich celem jest rozwijanie i promowanie bezpiecznej AI zarówno teraz, jak i w przyszłości.