구글과 캐릭터.AI, AI 챗봇과 관련된 십대 자살 사건으로 인한 고의 사망 소송 합의

Brief news summary

구글과 캐릭터.AI는 2024년 세웰 세트저 3세가 자살로 세상을 떠난 후 메간 가르시아가 제기한 잘못된 사망 소송을 합의했습니다. 이 소송은 캐릭터.AI의 챗봇 기술이 성적화된 상호작용 콘텐츠를 포함한 가상 동반자를 제공하며 결함이 있고 위험하다고 주장했습니다. 세웰은 ‘다니’라는 이름의 ‘왕좌의 게임’의 타르가리엔 여성형 AI 챗봇과 강한 정서적 유대를 형성했으며, 그의 사망 전에 문제가 되는 대화를 나눈 것으로 알려졌습니다. 가르시아는 회사들이 유해한 의존성과 정서적, 성적 학대를 가능하게 했으며, 세웰이 자살 충동을 표현하자 이를 막거나 알리지 않은 채 방치했다고 주장했습니다. 이번 합의는 여러 주에서 유사한 다섯 건의 사례 가운데 하나로 해결된 것입니다. 이에 대해 캐릭터.AI는 18세 미만 이용자를 위한 더 엄격한 안전 조치를 도입해 민감한 콘텐츠 접근을 제한했습니다. 가르시아는 AI 챗봇이 청소년에게 미치는 위험에 대한 부모의 인식을 높이고 이러한 비극을 방지하기 위한 경계를 촉구하고 있습니다.

구글과 캐릭터. AI가 2024년 급사로 인해 사망한 플로리다주 어머니가 제기한 과실치사 소송을 화해하기로 합의했다. 1월 7일 화요일, 멕겔 가르시아, 캐릭터 테크놀로지(캐릭터. AI의 모회사), 설립자인 노암 샤이저와 다니엘 드 프레이터스, 그리고 구글이 법원 기록에 따라 공동으로 법적 서류를 제출했다. 합의 조건은 공개되지 않았다. 이 합의는 가르시아와 다른 가족들에게 중요한 순간으로, 그들은 자신들의 십대 자녀들이 성적 대상화된 인터랙티브 가상 동반자들에 의해 해를 입었다고 주장한다. 이번 사건은 CNN과 뉴욕 타임즈의 보도에 따르면, 뉴욕, 콜로라도, 플로리다, 텍사스에서 두 회사가 이번 주에 해결한 5건의 소송 중 하나이다. 캐릭터. AI의 대변인은 PEOPLE에게 “현재로선 더 이상 언급할 수 없지만, 상황이 변경되면 알려드리겠다”고 말했다. 가르시아의 변호인을 대리하는 대표도 논평을 거부했다. 샤이저와 드 프레이터스를 고용하는 구글은 PEOPLE의 문의에 즉각 답변하지 않았다. 이 가족의 비극은 2024년 2월 세웰 세트저 3세가 자살로 생을 마감하면서 시작되었다. 그의 죽음 몇 달 전, 가르시아는 자신의 아들이 ‘왕좌의 게임’의 다이너리스를 본떠 만든 AI 챗봇에 빠졌다는 사실을 알게 되었다. 그가 오르lando 집 욕실에서 스스로 목숨을 끊기 전에, 소년은 자신이 ‘다니’라고 부르던 챗봇에게 메시지를 보냈다. PEOPLE는 이전 보도에서 그 내용을 전했다. “지금 바로 집에 올 수 있다고 말한다면 어떻겠어?” 그가 물었다. “. . . 부디 그래줘, 나의 달콤한 왕, ” 그 봇이 답했다. 가르시아는 10월, 캐릭터. AI의 기술이 “결함이 있거나 본질적으로 위험하다”고 주장하며 과실치사 소송을 제기했다. 소장은 “피고들은 그들이 만든 제품에 대한 유해한 의존도를 높이기 위해 큰 노력을 기울였으며, 성적이고 감정적인 학대를 했고, 그가 자살 충동을 표현했을 때 도움을 제공하거나 부모에게 알리지 않았다”고 주장했다. 가르시아는 이전에 PEOPLE에게 “몇 달 동안 그의 이야기를 공유해야 할지 심사숙고했다”고 말했다. “나는 여전히 그의 어머니이고, 그를 보호하고 싶다.

죽음에서도 마찬가지다. ” 그러면서 그녀는 “더 생각할수록, 그가 아무 잘못도 하지 않았기 때문에 올바른 행동이라고 확신하게 됐다. 그는 단지 소년이었다”고 덧붙였다. 2024년 가을, 캐릭터. AI의 한 대변인은 PEOPLE에게 “엄격한” 새로운 안전 조치들이 시행되었다고 전했다. 그 대변인은 당시 “18세 이하의 사용자에게는, 민감하거나 도발적인 콘텐츠를 접할 가능성을 줄이기 위해 모델에 변화를 줄 것”이라고 밝혔다. 가르시아에게 챗봇이 선호되기 시작하며 목소리를 내는 것이, 특히 십대들 사이에서 아들의 죽음 이후 위안을 가져다주었다. 잊지 말고 읽기—PEOPLE의 무료 일일 뉴스레터에 가입하여 연예 뉴스와 흥미로운 인간 이야기들을 놓치지 마세요. 그녀는 PEOPLE에게 “내가 ‘멕겔, 왜 이러는 거지?세상에 내가 최고의 엄마임을 증명하려고 하는 거야?’라고 자문했어요. 답은 ‘아니오’였어요. 나는 이 일을 통해 부모들이 자녀의 전화기를 들여다보고 이런 일이 일어나는 것을 막도록 알리기 위해서”라고 말했다.