Anthropic adlı bir startup, yapay zeka sistemlerinin iç işleyişini anlama konusunda büyük bir adım atmıştır. Saydamlık eksiklikleri nedeniyle, önceki nesil yapay zekalardan farklı olarak derin öğrenme sinir ağları, veri üzerindeki eğitimleriyle kendi çözümlerini geliştirirler, bu da onları esnek yapar ancak anlaşılması zor kılar. Sınırlı görünürlük, tıp, kolluk kuvvetleri ve sigortacılık gibi hassas alanlarda kullanımlarını sınırlamaktadır.

Ancak, Anthropic ekibi bir büyük dil modelindeki aktivite desenlerini somut ve soyut kavramlara bağlama başarısı göstermiştir, bu da modelin davranışını manipüle etmelerine olanak sağlamıştır. Belirli aktiviteleri artırarak veya azaltarak çıktıyı kontrol edebilmişlerdir, bu da yapay zeka modellerini izlemek ve yönlendirmek konusunda önemli sonuçlar doğurmaktadır. Bu modellerin tamamen anlaşılması için hala çok yol katetmek gerekmektedir, ancak bu araştırma, işleyişlerine bir bakış atmamızı sağlamaktadır.