Sigal Samuel, un reporter senior per Vox's Future Perfect e co-conduttore del podcast Future Perfect, discute delle sfide affrontate da Anthropic, un'azienda di AI che una volta si posizionava come etica e sicura. Nonostante le sue affermazioni iniziali, Anthropic ora sta facendo pressioni per indebolire la legislazione che imporrebbe standard di sicurezza per i modelli di AI. Questo cambiamento ha deluso i gruppi focalizzati sulla sicurezza che credevano che Anthropic avrebbe supportato la supervisione e la responsabilità.

Inoltre, Anthropic è stata criticata per i suoi metodi di raccolta dei dati, che includono la raccolta di dati disponibili pubblicamente senza consenso, e le sue partnership con giganti della tecnologia come Amazon e Google, il che solleva preoccupazioni riguardo alla concentrazione del potere e alle potenziali violazioni antitrust. Samuel sostiene che il governo deve intervenire per cambiare la struttura degli incentivi dell'industria dell'AI se le aziende non sono disposte a dare priorità all'etica e alla sicurezza da sole. In assenza di regolamentazione federale, le leggi statali e gli sforzi della società civile possono svolgere un ruolo cruciale nel tenere le aziende di AI responsabili.