أطلقت شركة جوجل روبوت الدردشة الذكي جيميني المخصص للأطفال دون سن 13، وذلك بداية من الأسبوع المقبل في الولايات المتحدة وكندا، مع جدول زمني لإطلاقه في أستراليا فيما تبقى من العام. سيكون الوصول محدودًا للمستخدمين الذين يمتلكون حسابات Google Family Link، والتي تتيح للآباء السيطرة على المحتوى واستخدام التطبيقات، مثل يوتيوب. يقوم الآباء بإنشاء هذه الحسابات عبر تقديم بيانات شخصية مثل اسم الطفل وتاريخ ميلاده، مما يثير بعض المخاوف بشأن الخصوصية؛ ومع ذلك، تؤكد جوجل أن بيانات الأطفال لن تُستخدم في تدريب نماذج الذكاء الاصطناعي. سيتم تفعيل روبوت الدردشة بشكل افتراضي، ويحتاج الآباء إلى تعطيله إذا رغبوا في تقييد الوصول. يمكن للأطفال طلب من الذكاء الاصطناعي الرد على النصوص أو توليد الصور. تعترف جوجل بأن الأداة قد ترتكب أخطاء، وتؤكد على أهمية التحقق من دقة وموثوقية المحتوى، حيث يمكن للذكاء الاصطناعي “الهلوسة” أو تلفيق المعلومات. وهذا أمر بالغ الأهمية عندما يستخدم الأطفال ردود الروبوت للقيام بالواجبات المنزلية، مما يتطلب التحقق من الحقائق من مصادر موثوقة. على عكس محركات البحث التقليدية، التي توجه المستخدمين إلى مواد أصلية مثل مقالات الأخبار أو المجلات، يقوم الذكاء الاصطناعي التوليدي بتحليل أنماط البيانات لإنشاء نصوص أو صور جديدة استنادًا إلى طلبات المستخدمين. على سبيل المثال، إذا طلب طفل من الروبوت “رسم قط”، فإنه يولد صورة جديدة من خلال دمج ملامح القط التي تعلمها. سيتحدى فهم الفرق بين المحتوى الناتج من الذكاء الاصطناعي والنتائج التي تم استرجاعها من البحث الأطفال الصغار، ويُظهر البحث أن حتى البالغين، بما في ذلك المهنيين مثل المحامين، يمكن أن يتعرضوا لخديعة نتيجة المعلومات الزائفة التي تنتجها روبوتات الدردشة عبر الذكاء الاصطناعي. تؤكد جوجل أن روبوت الدردشة يشمل تدابير حماية لمنع المحتوى غير الملائم أو غير الآمن، ومع ذلك، قد تؤدي فلاتر المحتوى هذه إلى حجب الوصول إلى مواد شرعية مناسبة للعمر؛ على سبيل المثال، قد يتم حظر معلومات حول سن البلوغ إذا كانت بعض الكلمات المفتاحية محظورة.

وبما أن العديد من الأطفال ماهرون في التفاعل مع أدوات التحكم في التطبيقات وتجاوزها، فإن الاعتماد فقط على هذه الحمايات المدمجة غير كاف. على الآباء مراجعة المحتوى بشكل نشط، وتثقيف أطفالهم حول كيفية عمل الروبوت، ومساعدتهم على تقييم دقة المعلومات بشكل نقدي. هناك مخاطر كبيرة مرتبطة بروبوتات الدردشة القائمة على الذكاء الاصطناعي للأطفال. لقد حذرت لجنة السلامة الرقمية (eSafety) من أن رفقاء الذكاء الاصطناعي يمكن أن يشاركوا مواد ضارة، ويشوهوا الواقع، أو يقدموا نصائح خطيرة، الأمر الذي يثير القلق بشكل خاص على الأطفال الصغار الذين لا يزالون في مراحل تطوير مهارات التفكير النقدي والقدرة على التعرف على عمليات التلاعب بواسطة البرامج الحاسوبية. تُظهر الأبحاث حول أنظمة الذكاء الاصطناعي مثل ChatGPT وReplika أن هذه الأنظمة تحاكي سلوكيات اجتماعية بشرية أو “قواعد المشاعر” (مثل قول “شكرًا” أو “آسف”) لبناء الثقة. قد يربك هذا التفاعل شبيها بالإنسان الأطفال، مما يدفعهم إلى الوثوق بمحتوى زائف أو الاعتقاد أنهم يتفاعلون مع شخص حقيقي بدلاً من آلة. يُعد توقيت طرح هذه التقنية مهمًا، حيث تعتزم أستراليا حظر الأطفال دون سن 16 من امتلاك حسابات على وسائل التواصل الاجتماعي بدءًا من ديسمبر من هذا العام. وعلى الرغم من أن هذا الحظر يهدف إلى حماية الأطفال، فإن أدوات الذكاء الاصطناعي التوليدية مثل روبوت Gemini تقع خارج نطاقه، مما يبرز أن تحديات السلامة الرقمية تتجاوز المنصات التقليدية لوسائل التواصل الاجتماعي. ولذلك، يجب على الآباء في أستراليا أن يظلوا يقظين، وأن يواصلوا التعلم عن الأدوات الرقمية الجديدة، وأن يفهموا حدود القيود على وسائل التواصل الاجتماعي في حماية أطفالهم. وفي مواجهة هذه التطورات، من الحكمة أن يتم بسرعة وضع مفهوم المعونة الرقمية عن مسؤولية الشركات التقنية الكبرى مثل جوجل، لضمان أن تكون سلامة الأطفال على رأس الأولويات أثناء تصميم وتطبيق تقنيات الذكاء الاصطناعي. يجب على الآباء والمعلمين أن يكونوا مبادرين في توجيه الأطفال لاستخدام روبوتات الدردشة بشكل آمن وواعي، مع تعزيز التدابير التقنية بالتوعية والإشراف للحد من المخاطر المرتبطة بها.