Die Gründer von Anthropic, Daniela und Dario Amodei, haben sich zum Ziel gesetzt, ein ethisches KI-Produkt in einem sich schnell entwickelnden Bereich zu schaffen. Sie haben Anthropic mitgegründet, ein KI-Unternehmen, das sich auf Sicherheit und Forschung konzentriert und leistungsstarke große Sprachmodelle (LLMs) entwickelt und mit führenden Unternehmen kooperiert. Um eine sichere KI-Zukunft zu gewährleisten, hat Anthropic interne Standards und Governance-Strukturen etabliert. Sie setzen eine Trainingsmethode namens konstitutionelle KI ein, bei der eine schriftliche Verfassung verwendet wird, um Werte und Grenzen an ihre Modelle zu vermitteln. Die Verfassung entwickelt sich weiter und stammt aus verschiedenen Quellen.

Anthropic möchte das Verständnis und die Zusammenarbeit in der Branche fördern, um KI sicher zu entwickeln. Das Skalieren von KI-Modellen wirft ethische Herausforderungen auf, einschließlich Umweltauswirkungen und potenziellem Missbrauch. Anthropic ist der Ansicht, dass die Einbeziehung von Ethik im KI-Training entscheidend ist, um moralisch bewusste Modelle zu schaffen. Ihr Ziel ist es, eine sichere KI sowohl in der Gegenwart als auch in der Zukunft zu entwickeln und zu fördern.