Grundarna av Anthropic, Daniela och Dario Amodei, gav sig ut för att skapa en etisk AI-produkt inom ett snabbt föränderligt område. De grundade Anthropic, ett AI-företag som fokuserar på säkerhet och forskning, och som även bygger kraftfulla stora språkmodeller (LLM) och samarbetar med stora företag. För att säkerställa en säker framtid för AI har Anthropic etablerat interna standarder och styrsystem. De använder en träningsmetod som kallas konstitutionell AI, där de använder en skriftlig konstitution för att lära ut värden och begränsningar till sina modeller. Konstitutionen utvecklas och hämtar inspiration från olika källor.

Anthropic strävar efter att främja förståelse och samarbete inom branschen för att utveckla AI på ett säkert sätt. Att skala upp AI-modeller innebär etiska utmaningar, inklusive miljöpåverkan och potentiell missbruk. Anthropic anser att det är avgörande att involvera etik i AI-träning för att skapa modeller som är medvetna om moral. Deras mål är att utveckla och främja säker AI både nu och i framtiden.