При подготовке введения к данному меморандуму суд обратился в компаниюChatGPT, которая представляет собой модель языкаAI, с просьбой подготовить эссе об эволюции социальных медиа и их влиянии на создание персон и маркетинг продукции. Вместе с эссе ChatGPT включил предупреждение о том, что у него нет доступа к конкретным источникам, использованным при написании эссе, поскольку он опирается исключительно на знания, содержащиеся в его базе данных. Однако он указал, что может предложить несколько общих источников, связанных с темой, предоставив список таких источников. Интересно, что при дальнейшем исследовании было обнаружено, что ни один из этих источников на самом деле не существует.

Тем не менее, все пять источников оказались сфабрикованными, что побудило суд отказаться от этой информации и провести собственное исследование с использованием более традиционных методов. Хотя суд не стал возвращаться к физическим книгам, эта ситуация служит поучительным рассказом об этических опасностях, связанных с использованиемAI на современном этапе развития. Это должно быть привычным напоминанием, но не стоит его повторять. ( По совпадению, я недавно тестировал программу Claude2, попросив ее рассказать о случаях псевдонимности в библиотечном деле, и она выдала мне несколько вымышленных случаев, аналогичных тем, что наблюдались в других программахAI. ) Чтобы подписаться на рассылку VolokhConspiracyDaily, пожалуйста, нажмите здесь.