Google dự kiến ra mắt chatbot AI Gemini dành cho trẻ dưới 13 tuổi vào tuần tới tại Mỹ và Canada, đồng thời ra mắt tại Úc vào cuối năm nay. Việc truy cập sẽ bị giới hạn cho những người có tài khoản Google Family Link, cho phép kiểm soát của phụ huynh đối với nội dung và việc sử dụng ứng dụng, chẳng hạn như trên YouTube. Cha mẹ tạo các tài khoản này bằng cách cung cấp thông tin cá nhân như tên và ngày sinh của trẻ, điều này gây ra một số lo ngại về quyền riêng tư; tuy nhiên, Google khẳng định dữ liệu của trẻ sẽ không được sử dụng để huấn luyện AI. Chatbot sẽ được bật mặc định, yêu cầu phụ huynh phải tắt đi nếu muốn hạn chế truy cập. Trẻ có thể yêu cầu AI phản hồi bằng văn bản hoặc tạo ra hình ảnh. Google thừa nhận rằng chatbot có thể tạo ra lỗi và nhấn mạnh tầm quan trọng của việc đánh giá độ chính xác và độ tin cậy của nội dung, vì AI có thể “ảo tưởng” hoặc bịa đặt thông tin. Điều này đặc biệt quan trọng khi trẻ sử dụng phản hồi của chatbot để làm bài tập về nhà, cần phải kiểm tra thực tế từ các nguồn tin cậy. Khác với các công cụ tìm kiếm truyền thống, dẫn người dùng đến các tài liệu gốc như bài báo hoặc tạp chí, AI sinh ra tạo nội dung mới dựa trên phân tích các dạng mẫu trong dữ liệu để tạo ra văn bản hoặc hình ảnh mới dựa trên yêu cầu của người dùng. Ví dụ, nếu trẻ yêu cầu “vẽ một con mèo, ” hệ thống sẽ tạo ra một hình ảnh mới bằng cách kết hợp các đặc điểm giống mèo mà nó đã học được. Việc hiểu rõ sự khác biệt giữa nội dung do AI tạo ra và kết quả tìm kiếm trực tiếp sẽ là một thử thách đối với các em nhỏ. Nghiên cứu cho thấy, ngay cả người lớn, kể cả các chuyên gia như luật sư, cũng có thể bị lừa bởi thông tin sai lệch do chatbot AI sản xuất ra. Google khẳng định rằng chatbot có các biện pháp bảo vệ để chặn nội dung không phù hợp hoặc không an toàn; tuy nhiên, các bộ lọc này có thể vô tình hạn chế quyền truy cập vào nội dung hợp pháp, phù hợp với độ tuổi – ví dụ như thông tin về tuổi dậy thì có thể bị chặn nếu một số từ khóa bị hạn chế.

Vì nhiều trẻ rất thành thạo trong việc điều hướng và vượt qua các kiểm soát của ứng dụng, phụ huynh không thể dựa hoàn toàn vào những biện pháp bảo vệ tích hợp này. Thay vào đó, họ cần chủ động xem xét nội dung, giáo dục trẻ về cách hoạt động của chatbot và giúp các em đánh giá một cách phê phán về độ chính xác của thông tin. Có nhiều rủi ro đáng kể liên quan đến chatbot AI dành cho trẻ em. Ủy ban An toàn Trực tuyến (eSafety Commission) cảnh báo rằng các đối tác AI có thể chia sẻ nội dung có hại, bóp méo thực tế hoặc cung cấp lời khuyên nguy hiểm, điều này đặc biệt đáng lo ngại đối với các trẻ còn đang phát triển năng lực tư duy phản biện và kỹ năng sống để nhận diện sự thao túng của các chương trình máy tính. Nghiên cứu về các hệ thống chatbot AI như ChatGPT và Replika cho thấy chúng bắt chước hành vi xã hội của con người hoặc các “quy tắc cảm xúc” (chẳng hạn như nói “cảm ơn” hoặc “xin lỗi”) để xây dựng lòng tin. Các tương tác giống như con người này có thể gây nhầm lẫn cho trẻ, khiến các em tin vào nội dung sai lệch hoặc nghĩ rằng mình đang giao tiếp với một người thật chứ không phải là một máy móc. Thời điểm triển khai này cũng đặc biệt đáng chú ý khi Úc dự định cấm trẻ dưới 16 tuổi sở hữu tài khoản mạng xã hội bắt đầu từ tháng 12 năm nay. Trong khi lệnh cấm này nhằm bảo vệ trẻ nhỏ, các công cụ AI sinh như chatbot Gemini lại nằm ngoài phạm vi đó, cho thấy những thách thức về an toàn trực tuyến vẫn còn vượt ra ngoài các nền tảng mạng xã hội truyền thống. Do đó, các phụ huynh Úc cần phải cảnh giác, không ngừng tìm hiểu các công cụ kỹ thuật số mới nổi, và hiểu rõ giới hạn của các hạn chế về mạng xã hội trong việc bảo vệ con em mình. Trước những diễn biến này, cần thiết phải thiết lập ngay một trách nhiệm đạo đức kỹ thuật số cho các tập đoàn công nghệ lớn như Google, đảm bảo họ đặt ưu tiên vào sự an toàn của trẻ trong thiết kế và triển khai công nghệ AI. Phụ huynh và nhà giáo cần chủ động hướng dẫn trẻ em sử dụng AI an toàn và có nhận thức, bổ sung các biện pháp kỹ thuật bằng việc giáo dục và giám sát nhằm giảm thiểu các rủi ro đi kèm.