En menos de dieciocho meses, Frankie Johnson, recluido en la prisión William E. Donaldson cerca de Birmingham, Alabama, reportó haber sido apuñalado aproximadamente 20 veces. En diciembre de 2019, fue apuñalado "al menos nueve veces" en su unidad de alojamiento. En marzo de 2020, después de que un oficial lo esposara a un escritorio tras una terapia grupal, otro interno le apuñaló cinco veces. Más tarde ese año, en noviembre, después de ser esposado y escoltado al patio de la prisión, Johnson fue atacado con un pico de hielo por otro prisionero, recibiendo entre cinco y seis heridas de puñalada mientras dos oficiales de correcciones observaban; Johnson afirma que uno de los oficiales alentó el asalto en represalia por una disputa anterior. En 2021, Johnson presentó una demanda contra los funcionarios de la prisión de Alabama alegando incumplimiento de su obligación de protegerlo, violencia generalizada, falta de personal, hacinamiento y corrupción sistémica. Para defenderse en el caso, la oficina del fiscal general de Alabama contrató a Butler Snow, un bufete de abogados que frecuentemente recibe millones de dólares del estado por defender su problemático sistema penitenciario, en particular a William Lunsford, responsable de su grupo de derechos constitucionales y civiles. Sin embargo, ahora la firma enfrenta sanciones por parte del juez federal que supervisa el caso de Johnson, después de que un abogado allí, Matthew Reeves, que trabajaba con Lunsford, citara casos inexistentes generados por inteligencia artificial (IA). Este incidente forma parte de una tendencia creciente donde los abogados enfrentan repercusiones por incluir información fabricada generada por IA en presentaciones legales. Una base de datos global ha identificado 106 casos de “alucinaciones de IA” en documentos judiciales. El año pasado, un abogado fue suspendido por un año en Florida por citar casos fabricados por IA, y recientemente en California, un juez federal multó a un bufete con más de 30. 000 dólares por incluir investigaciones falsas generadas por IA en un informe. En una audiencia en Birmingham, la Jueza del Distrito de los Estados Unidos, Anna Manasco, indicó que está considerando varias sanciones—que van desde multas y educación jurídica continua obligatoria hasta derivaciones a juntas de licencias y suspensiones temporales—contra Butler Snow tras que Reeves usara ChatGPT para insertar citas falsas en presentaciones relacionadas con disputas de deposiciones y descubrimientos. Manasco criticó las sanciones previas en otros casos como insuficientes, calificando este caso como “una prueba positiva” de que no fueron suficientes. Los abogados de Butler Snow expresaron remordimiento y aceptaron las posibles sanciones, señalando que la firma tiene una política que requiere aprobación previa para usar IA en investigaciones legales. Reeves asumió plena responsabilidad, reconociendo que ignoró esta política a pesar de tener conciencia de las limitaciones de la IA, y pidió que no se castigara a sus colegas. La firma fue designada y paga por el estado para defender a Jefferson Dunn, ex superintendente del Departamento de Correcciones de Alabama. Lunsford ha comenzado a revisar presentaciones anteriores en busca de otras citas falsas, pero reconoció que la respuesta del bufete aún no está completa.

Manasco dio a Butler Snow diez días para presentar una moción que describa su plan para abordar el problema antes de decidir las sanciones. Las citas falsas generadas por IA surgieron en medio de una disputa por la programación. Butler Snow buscaba tomar declaración a Johnson, quien sigue recluido, pero sus abogados se opusieron, alegando que debían recibir documentos incompletos con anticipación. La presentación de Butler Snow para hacer cumplir una deposición expedita citaba cuatro supuestos casos de apelación que autorizaban dichas deposiciones, pero todos fueron falsificados. Algunos casos imitaron citas reales pero eran irrelevantes o sin relación histórica, como un caso citado Kelley v. City of Birmingham de 2021, que en realidad era un caso de multa por exceso de velocidad de 1939. Los abogados de Johnson presentaron una moción acusando a Butler Snow de confiar en “inteligencia artificial generativa” para crear citas fabricadas y señalaron otra cita falsa en presentaciones anteriores en disputas de descubrimiento. Manasco, considerando la gravedad, realizó búsquedas independientes y no encontró evidencia de los casos citados. Reeves admitió que utilizó apresuradamente ChatGPT para buscar citas sin verificarlas en Westlaw o Pacer y expresó profundo arrepentimiento. Damien Charlotin, investigador legal con sede en París que sigue estos casos, señala que la presentación de casos con contenido falso generado por IA ha acelerado recientemente, aunque las cortes han sido indulgentes, reservando sanciones severas como multas elevadas y suspensiones principalmente para abogados que no aceptan la responsabilidad. Predice que eventualmente habrá una aplicación más estricta. Además del caso de Johnson, Lunsford y Butler Snow tienen contratos para varias demandas importantes de derechos civiles contra el Departamento de Correcciones de Alabama, incluyendo una del Departamento de Justicia de EE. UU. en 2020 durante la administración Trump, que destacaba problemas sistémicos similares que violan la Octava Enmienda y su prohibición de castigos crueles e inusitados. Solo este caso tenía un contrato por casi 15 millones de dólares en dos años. Algunos legisladores de Alabama han cuestionado los sustanciosos pagos a Butler Snow, pero el error reciente no ha socavado la confianza del fiscal general. Durante la audiencia, cuando se le preguntó si seguirían trabajando con Butler Snow, un abogado de la oficina del fiscal general afirmó que el Sr. Lunsford sigue siendo su “asesor de cabecera”.