Em menos de dezoito meses, Frankie Johnson, encarcerado na prisão William E. Donaldson perto de Birmingham, Alabama, relatou ter sido esfaqueado aproximadamente 20 vezes. Em dezembro de 2019, ele foi esfaqueado "pelo menos nove vezes" na sua unidade de alojamento. Em março de 2020, após ser algemado a uma mesa por um policial após uma sessão de terapia em grupo, outro detento o esfaqueou cinco vezes. Mais tarde naquele ano, em novembro, após ser algemado e escoltado até o pátio da prisão, Johnson foi atacado com um picador de gelo por outro prisioneiro, recebendo de cinco a seis golpes de faca enquanto dois guardas observavam; Johnson afirma que um policial incentivou o ataque em retaliação por uma disputa anterior. Em 2021, Johnson entrou com uma ação contra oficiais da prisão do Alabama, citando falha em protegê-lo, violência generalizada, insuficiência de pessoal, superlotação e corrupção sistêmica. Para defender o caso, o escritório do procurador-geral do Alabama contratou a Butler Snow, um escritório de advocacia frequentemente pago milhões pelo estado para defender seu sistema prisional problemático, especialmente por William Lunsford, chefe do grupo de direitos constitucionais e civis. No entanto, o escritório agora enfrenta sanções de um juiz federal que supervisa o caso de Johnson após um advogado lá, Matthew Reeves, que trabalha com Lunsford, citar casos inexistentes gerados por inteligência artificial (IA). Este incidente faz parte de uma tendência crescente em que advogados enfrentam repercussões por incluir informações fabricadas por IA em processos legais. Uma base de dados global identificou 106 casos dessas “alucinações da IA” em documentos judiciais. No ano passado, um advogado foi suspenso por um ano na Flórida por citar casos fictícios gerados por IA, e recentemente na Califórnia, um juiz federal multou um escritório em mais de US$30. 000 por incluir pesquisas falsas de IA em uma petição. Em uma audiência em Birmingham, a juíza distrital dos EUA, Anna Manasco, indicou que está considerando várias sanções — variando de multas e obrigatoriedade de educação jurídica continuada até encaminhamentos às juntas reguladoras e suspensões temporárias — contra a Butler Snow após Reeves usar o ChatGPT para inserir citações falsas em processos relacionados a disputas de depoimento e descoberta. Manasco criticou sanções anteriores em outros casos por serem inadequadas, chamando este caso de “prova definitiva” de que elas foram insuficientes. Os advogados da Butler Snow expressaram arrependimento e aceitaram potenciais sanções, observando uma política interna que exige aprovação antes de usar IA para pesquisa jurídica. Reeves assumiu total responsabilidade, admitindo que desconsiderou essa política apesar de estar ciente das limitações da IA, e pediu que seus colegas não fossem punidos. O escritório foi nomeado e recebe pagamento do estado para defender Jefferson Dunn, ex-comissário do Departamento de Correções do Alabama.

Lunsford começou a revisar processos anteriores em busca de outras citações falsas, mas reconheceu que a resposta do escritório ainda não está completa. Manasco deu à Butler Snow dez dias para apresentar uma moção descrevendo seu plano para solucionar a questão antes de decidir sobre sanções. As citações fraudulentas geradas por IA surgiram em meio a uma disputa de agendamento. Butler Snow buscava depor Johnson, que permanece encarcerado, mas os advogados de Johnson se opuseram, citando documentos incompletos que deveriam receber previamente. A petição da Butler Snow para exigir um depoimento acelerado citou quatro supostos casos de apelação autorizando tais depoimentos, mas todos foram fabricados. Alguns casos imitavam citações reais, mas eram irrelevantes ou de contextos históricos distintos, como um caso Kelley v. City of Birmingham de 2021, que na realidade se tratava de uma multa por excesso de velocidade de 1939. Os advogados de Johnson apresentaram uma moção acusando a Butler Snow de confiar em “inteligência artificial generativa” para criar citações fabricadas e identificaram outra citação falsa em processos anteriores de disputa de descoberta. Manasco, considerando a gravidade, realizou buscas independentes e não encontrou evidências dos casos citados. Reeves admitiu que usou rapidamente o ChatGPT para procurar citações sem verificá-las em Westlaw ou Pacer e manifestou profundo arrependimento. Damien Charlotin, pesquisador jurídico baseado em Paris que acompanha esses casos, observa uma aceleração nas petições contendo conteúdo falso gerado por IA recentemente, mas ressalta que os tribunais têm sido permissivos, reservando penalidades severas como multas altas e suspensões principalmente para advogados que não assumem responsabilidade. Ele prevê que a fiscalização mais rígida ocorrerá eventualmente. Além do caso Johnson, Lunsford e a Butler Snow mantêm contratos para várias ações civis importantes contra o Departamento de Correções do Alabama, incluindo uma promovida pelo Departamento de Justiça dos EUA sob a administração Trump em 2020, destacando problemas sistêmicos semelhantes que violam a proibição na Oitava Emenda contra punições cruéis e incomuns. Este caso específico tinha um contrato de quase 15 milhões de dólares por dois anos. Alguns legisladores do Alabama questionaram os pagamentos substanciais feitos à Butler Snow, mas o erro recente não abalou a confiança do procurador-geral. Na audiência, ao ser questionado se continuariam a contratar a Butler Snow, um advogado do escritório do procurador-geral afirmou que o Sr. Lunsford permanece como seu “aconselhamento preferencial”.