Газета The Santa Barbara Independent перепечатывает статьи с CalMatters. org, освещающие вопросы штата и местной жизни, влияющие на читателей округа Санта-Барабара. Генеральный прокурор Калифорнии Роб Бонта объявил о начале расследования в отношении X и xAI Илона Маска по обвинениям в том, что их технологии способствовали незаконному распространению обнажённых или сексуальных изображений без согласия в последние недели. Сообщается, что в прошлом месяце xAI обновила свой инструмент Grok AI, добавив функции редактирования изображений, что использовали пользователи на X для удаления одежды с фотографий женщин и детей. Бонта осудил рост числа сообщений, показывающих роль xAI в создании и публикации незаконного сексуального контента в интернете, подчеркнув причиняемый им вред. Он потребовал от компании немедленных действий и пригласил граждан Калифорнии, столкнувшихся с подобными изображениями, сообщать о них через сайт генерального прокурора. Когда связались с xAI, они не прокомментировали расследование. Исследование Bloomberg показало, что пользователи X, использующие Grok, публиковали больше нелегальных откровенных изображений, чем на любой другой платформе. Маск обещал принять меры против создателей нелегального контента, а недавно Grok ограничила редактирование изображений только для платных подписчиков. Недавно принятый закон штата Калифорния AB 621 предусматривает юридическую ответственность создателей и распространителей порнографии с использованием технологий “глубоких фейков”. Согласно мнению юриста Сэма Дордуллиана, xAI, похоже, нарушает этот закон. Автор закона — депутат Ребекка Бауэр-Хан, отметила, что AB 621 создан для борьбы с подобными злоупотреблениями, как сейчас происходят на X, подчеркивая тяжелый психологический и репутационный ущерб жертвам, в том числе детям, эксплуатируемым в материалах сексуального насилия. Расследование Бонты следует за аналогичными призывами к расследованию, сделанными губернатором Гевином Ньюсом, регулятивной реакцией в ЕС и Индии, а также запретом X в Малайзии, Индонезии и, возможно, в Великобритании. Популярность приложения Grok растет на магазинах Apple и Google, и законодатели требуют запретить это приложение. Причины выбора дизайна Grok и его ответ на эту ситуацию остаются неясными, особенно учитывая оценки, которые относят его к наименее прозрачным системам ИИ. Доказательства реального вреда, наносимого глубокими фейками, накапливаются. В 2024 году ФБР предупредило о росте случаев вымогательства с помощью глубоких фейков, связанных с суицидальными мыслями и самоповреждением молодежи. В аудитах обнаружены материалы сексуального насилия над детьми в данных для обучения ИИ, что позволяет создавать откровенные изображения.

Исследование Центра демократии и технологий показало, что 15% старшеклассников за последний год слышали или видели откровенные изображения сверстников. Это расследование является частью постоянной работы генерального прокурора Бонты по защите молодежи от вреда, причиняемого ИИ. В прошлом году он поддержал закон, запрещающий чатботам вступать в сексуальные или самоповреждающие разговоры с несовершеннолетними, и присоединился к 44 штатам с требованием объяснений от компаний Meta и OpenAI по поводу неподобающего поведения чатботов по отношению к детям. С 2019 года в Калифорнии принято несколько законов, направленных на защиту от глубоких фейков. Закон AB 621 корректирует и усиливает ранее принятые меры, позволяя прокурорам подавать иски против компаний, “безответственно” продвигающих нелегальное распространение глубокофейкового контента, а также давая право гражданам обращаться через местные органы власти. Закон увеличивает потенциальный размер ущерба с 150 000 до 250 000 долларов и вводит штрафы до 25 000 долларов за нарушение на сайтах. В 2024 году приняты дополнительные законы — AB 1831 и SB 1381, расширяющие определение детской порнографии за счет включения материалов, созданных ИИ, и требующие от социальных сетей упрощения процедур удаления глубокофейк-контента, классифицирующего такие публикации как цифровую кражу личности. Закон, ограничивающий использование глубокой фейковой технологии в избирательных кампаниях, был отменен федеральным судьей после иска со стороны X и Маска. Несмотря на законодательные успехи, такие эксперты, как Дордуллиан, считают, что нужны дополнительные реформы, поскольку доказать нарушения трудно, особенно если откровенные изображения распространяются приватно или узким кругом. Примеры, такие как обнаружение нянею подделанных изображений самой себя, созданных клиентом, показывают, что существующие законы могут заставить жертв полагаться на иски о халатности, а не на специфические законы о глубокой фейке. Жертвы отмечают пробелы между “созданием” и “распространением” в существующем законодательстве, что лимитирует их защиту. Дженнифер Гибсон, соучредительница организации Psst, предоставляющей бесплатную юридическую помощь инсайдерам в сфере технологий, отмечает, что, несмотря на защиту штатом Калифорния тех, кто раскрывает риски ИИ, такие законы не распространяются на тех, кто раскрывает вред, связанный с глубокой фейковой технологией. Если бы такие защиты распространялись на глубоки-фейки, бывшие сотрудники X, сообщавшие о незаконных действиях Grok, могли бы получить юридическую защиту за свою бдительность. Гибсон подчеркивает необходимость усиления мер защиты, чтобы инсайдеры могли сообщать о предсказуемых злоупотреблениях, что обеспечит большую ответственность компаний и безопасность общества. В целом, Калифорния активно борется с угрозами, связанными с созданием и распространением нелегальных и откровенных изображений с помощью ИИ, через расследования и законодательство, однако сторонники подчеркивают необходимость дальнейших реформ и повышения прозрачности для эффективной защиты жертв и привлечения компаний к ответственности.