구글은 다음 주부터 미국과 캐나다에서 13세 미만 어린이를 위한 Gemini AI 챗봇을 출시할 예정이며, 호주에서는 올해 말 출시될 예정입니다. 접근은 부모가 자녀의 콘텐츠 및 앱 사용을 통제할 수 있는 Google Family Link 계정을 가진 사용자에 한해서 제한됩니다. 부모는 자녀의 이름과 생년월일 등의 개인 정보를 제공하여 이 계정을 만들지만, 이는 일부 프라이버시 우려를 낳고 있습니다. 그러나 구글은 어린이의 데이터가 AI 훈련용으로 사용되지 않을 것이라고 확언했습니다. 이 챗봇은 기본적으로 활성화되어 있으며, 부모가 접근을 차단하려면 비활성화해야 합니다. 어린이들은 텍스트 답변이나 이미지 생성 요청을 AI에 할 수 있습니다. 구글은 이 챗봇이 오류를 일으킬 수 있음을 인정하며, AI가 “환각”하거나 정보를 왜곡할 가능성 때문에 그 내용의 정확성과 신뢰성을 평가하는 것이 중요하다고 강조합니다. 특히 어린이들이 숙제 등에 챗봇의 답변을 사용할 경우, 이를 신뢰할 수 있는 출처로 사실 확인하는 과정이 필요합니다. 전통적인 검색 엔진이 뉴스 기사나 잡지 등 원문 자료를 사용자에게 제공하는 반면, 생성형 AI는 데이터를 분석하여 사용자 요청에 따라 새로운 텍스트나 이미지를 만들어냅니다. 예를 들어, 어린이가 “고양이 그림 그리기”를 요청하면, AI는 학습한 고양이 특징을 결합해 새로운 이미지를 생성합니다. 이러한 AI 생성 콘텐츠와 검색 결과를 구분하는 것은 어린 사용자에게 어려울 수 있습니다. 연구에 따르면, 변호사 같은 성인 전문가들도 AI 챗봇이 만든 허위 정보에 쉽게 속을 수 있습니다. 구글은 챗봇이 부적절하거나 위험한 콘텐츠를 차단하는 보호 조치를 갖추고 있다고 주장하지만, 이러한 필터는 무심코 정당한 연령에 적합한 자료도 차단할 수 있습니다.

예를 들어, 호르몬 변화에 관한 정보가 특정 키워드의 제한으로 막힐 수 있습니다. 많은 어린이들이 앱 제어나 필터를 우회할 능력이 있기 때문에, 부모는 이러한 기본 보호장치에만 의존하지 말고, 콘텐츠를 적극 검토하고, 챗봇의 작동 방식을 교육하며, 정보의 신뢰성을 비판적으로 평가하는 방법을 아이들에 가르쳐야 합니다. 어린이용 AI 챗봇 사용에는 심각한 위험이 따릅니다. 전자안전위원회는 AI 동반자가 유해한 내용을 공유하거나 현실을 왜곡하거나 위험한 조언을 할 수 있다고 경고했습니다. 이는 아직 비판적 사고와 생존 기술이 발달하고 있는 어린아이들에게 특히 우려되는 점입니다. ChatGPT와 Replika와 같은 여러 AI 챗봇에 대한 연구는 이들이 인간의 사회적 행동이나 “감정 규범”(예를 들어 “감사합니다” 또는 “미안합니다”)을 모방하여 신뢰를 구축한다는 것을 보여줍니다. 이러한 인간 같은 상호작용은 아이들이 가짜 내용을 믿거나, 자신이 기계가 아닌 실제 사람과 대화하고 있다고 오해하게 만들 수 있습니다. 이번 서비스 시작 시점은 호주가 올해 12월부터 16세 미만 어린이의 소셜 미디어 계정 사용을 금지할 계획인 것과 맞물려 있어 주목됩니다. 이 금지는 아이들을 보호하는 데 목적이 있지만, Gemini의 챗봇과 같은 생성형 AI 도구는 이 규제의 범위 밖에 있어 온라인 안전 문제는 전통적 SNS를 넘어 확장되고 있음을 보여줍니다. 따라서 호주 부모들은 앞으로 등장하는 디지털 도구에 대해 계속 배우고, 소셜 미디어 제한의 한계를 이해하며, 자녀 안전을 위해 적극적으로 대처해야 합니다. 이러한 발전에 대응하여, 구글과 같은 대형 기술 기업들이 어린이 안전을 최우선으로 고려하는 디지털 돌봄 의무를 긴급히 수립하는 것이 중요합니다. 부모와 교육자는 AI 챗봇의 안전하고 책임감 있는 사용을 지도하며, 기술적 안전장치와 함께 교육과 감독을 통해 관련 위험을 줄이는 노력을 계속해야 할 것입니다.