Федеральний суддя у Бірмінгемі, штат Алабама, розглядає питання щодо можливого застосування санкцій проти відомої юридичної фірми Butler Snow після того, як було виявлено п’ять неправдивих юридичних цитувань у недавніх судових документах, що стосувалися високопрофільної справи, пов’язаної з безпекою ув’язнених у виправній установі Вільяма Е. Дональдсона, де ув’язнений був кілька разів зарізаний. Ця проблема привернула увагу національної спільноти через її зв’язок з використанням штучного інтелекту (ШІ) у юридичних дослідженнях, підкреслюючи ризики ненадійної інформації, згенерованої ШІ. Суддя у США Анна Манацьо, яка веде цю справу, визначила неправдиві цитати як "галюцинації", фабриковані штучним інтелектом, згенеровані такими інструментами, як ChatGPT. Ці неточні цитати з’явилися у двох документах, поданих Butler Snow, яка веде справу проти співробітників в’язниці, звинувачених у ненаданні належного захисту безпеки ув’язнених. Наявність таких помилок у офіційних судових документах викликає серйозні занепокоєння щодо цілісності юридичних досліджень фірми та більш широких наслідків залежності від ШІ у критичних правових контекстах. Проблема стала відомою після перегляду справи, під час якого з’ясувалося, що жодна з п’яти цитованих справ не підтримувала висновки правових аргументів. Подальше розслідування підтвердило, що ці посилання згенеровані ChatGPT. Butler Snow визнав, що не перевіряв незалежно ці цитати перед включенням їх до документів. Партнер Butler Snow, Мэтт Рівз, який був залучений до цієї справи, взяв на себе відповідальність, пояснивши, що він використовував ChatGPT для швидшого проведення досліджень, але не зробив перевірку отриманої інформації. «Я беру повну відповідальність за ці помилки. Це була невдача наших стандартних процедур перевірки», — зазначив він. Ще четверо адвокатів, у тому числі керівник відділу Білл Лансфорд, який також є заступником генерального прокурора штату, підписали документи, при цьому Лансфорд зізнався, що робив лише поверховий огляд, що вказує на недогляд у контролі. Butler Snow, одна з давно існуючих юридичних фірм, яка отримує мільйони доларів від штату Алабама на судовий захист у справі про в’язниці, тепер стикається з підвищеною увагою через безпосередній вплив своєї роботи на благополуччя ув’язнених і справедливий судовий процес. Фірма оприлюднила заяву з глибоким здивуванням щодо помилок, підтверджуючи своє прагнення дотримуватися високих юридичних стандартів і обіцяючи посилити контролі для запобігання подальшим подібним випадкам. Суддя Манацьо надала Butler Snow десять днів для відповіді, оскільки вона розглядає можливість застосування дисциплінарних заходів, у тому числі штрафів або інших санкцій, спрямованих на збереження суддівської цілісності й запобігання майбутнім порушенням.

Її увага до цієї справи свідчить про зростаючу суддівську тривогу щодо використання ШІ у праві, особливо враховуючи тенденцію ШІ створювати неточний або вигаданий контент без належного контролю. Ця ситуація є однією з перших високопрофільних прикладів впливу матеріалів, згенерованих ШІ, на документи федеральних судів та служить попередженням для правників по всій країні. З поширенням використання ШІ у різних сферах юриспруденції, адвокати стикаються з невідкладними викликами щодо дотримання етики, забезпечення точності та управління ризиками автоматизації у делікатних юридичних справах. Ця справа підкреслює важливу роль людського контролю у дослідженнях за допомогою ШІ. Хоча ШІ може підвищити ефективність роботи, він не замінить ретельних суджень, досвіду й перевірок, які здійснюють адвокати. Помилка Butler Snow показує, що навіть усталені фірми можуть бути вразливі до недоліків технологій без належної обачності. Юридичні експерти закликають цю ситуацію до ширшої переоцінки ролі ШІ у юридичній практиці. У процесі розробки підходів до викликів, пов’язаних із ШІ, очікується створення більш чітких керівних принципів та професійних стандартів. Водночас адвокатам рекомендується суворо перевіряти всі дані, згенеровані ШІ, перед їх використанням у суді. Поза межами безпосередніх сторін ця справа викликає широку суспільну й судову дискусію про довіру, відповідальність і змінний зв’язок технологій із правом. Результати розгляду суддею Манацьо та можливі санкції проти Butler Snow можуть закласти прецедент у регулюванні впливу ШІ на юридичні дослідження та судову практику. Докладаючи зусиль, юридична спільнота спостерігає за розвитком цієї справи, що яскраво підкреслює, що точність і цілісність залишаються фундаментальними цінностями у правовій роботі. Це також показує, які виклики стоять перед судами й адвокатами у процесі інтеграції нових технологій у системи, спрямовані на захист справедливості й прав. Підсумовуючи, випадкова використання Butler Snow неправдивих цитувань, здобутих за допомогою ШІ у справі щодо безпеки в'язнів, привернуло увагу до критичних питань ролі ШІ у праві. Реакція суду спрямована на запобігання подібним порушенням і зміцнення стандартів, що гарантують юридичну достовірність. Ця справа стала важливим моментом у тривалій дискусії про місце ШІ в правовій системі і відповідальність юридичних професіоналів, які використовують такі інструменти.