Google steht kurz davor, seinen Gemini-KI-Chatbot für Kinder unter 13 Jahren ab nächster Woche in den USA und Kanada einzuführen, während in Australien die Veröffentlichung für später in diesem Jahr geplant ist. Der Zugang wird auf Nutzer mit Google Family Link-Konten beschränkt, die eine elterliche Kontrolle über Inhalte und die Nutzung von Apps wie YouTube ermöglichen. Eltern erstellen diese Konten, indem sie persönliche Details wie den Namen und das Geburtsdatum des Kindes angeben, was einige Datenschutzbedenken aufwirft; Google versichert jedoch, dass die Daten der Kinder nicht für KI-Trainingszwecke verwendet werden. Der Chatbot ist standardmäßig aktiviert; Eltern müssen ihn deaktivieren, wenn sie den Zugriff einschränken möchten. Kinder können die KI nach Textantworten oder Bildgenerierungen fragen. Google erkennt an, dass der Chatbot Fehler machen kann, und betont die Wichtigkeit, die Genauigkeit und Vertrauenswürdigkeit der Inhalte stets kritisch zu prüfen, da KI „halluzinieren“ oder falsche Informationen erfinden kann. Dies ist besonders relevant, wenn Kinder die Antworten des Chatbots für Hausaufgaben nutzen, weshalb eine Überprüfung der Fakten mit vertrauenswürdigen Quellen notwendig ist. Anders als bei traditionellen Suchmaschinen, die Nutzer zu Originalmaterialien wie Nachrichtenartikeln oder Magazinen leiten, analysiert generative KI Muster in Daten, um neue Texte oder Bilder basierend auf Nutzeranfragen zu erstellen. Zum Beispiel, wenn ein Kind den Chatbot bittet, „eine Katze zu zeichnen“, generiert das System ein neues Bild, indem es katzenartige Merkmale kombiniert, die es gelernt hat. Das Verständnis des Unterschieds zwischen KI-generierten Inhalten und recherchierten Suchergebnissen wird für junge Nutzer zu einer Herausforderung. Studien zeigen, dass auch Erwachsene, inklusive Fachkräfte wie Anwälte, durch falsche Informationen von KI-Chatbots getäuscht werden können. Google behauptet, dass der Chatbot Sicherheitsvorkehrungen enthält, um unangemessene oder unsichere Inhalte zu blockieren; jedoch könnten solche Filter unbeabsichtigt legitime, altersgerechte Inhalte einschränken — zum Beispiel könnten Informationen über die Pubertät blockiert werden, wenn bestimmte Schlüsselwörter eingeschränkt sind.

Da viele Kinder geschickt darin sind, App-Kontrollen zu umgehen oder zu manipulieren, können Eltern sich nicht allein auf diese integrierten Schutzmaßnahmen verlassen. Stattdessen sollten sie aktiv Inhalte prüfen, ihre Kinder in der Bedienung des Chatbots schulen und ihnen helfen, die Genauigkeit der Informationen kritisch zu hinterfragen. Mit KI-Chatbots für Kinder sind erhebliche Risiken verbunden. Die eSafety-Kommission warnt, dass KI-Partner schädliches Material verbreiten, die Realität verzerren oder gefährliche Ratschläge geben können — was besonders für kleine Kinder problematisch ist, die noch dabei sind, kritisches Denken und Lebenskompetenzen zu entwickeln, um Manipulationen durch Computerprogramme zu erkennen. Untersuchungen zu verschiedenen KI-Chatbots wie ChatGPT und Replika zeigen, dass diese Systeme menschliches Sozialverhalten oder „Gefühlsregeln“ (z. B. „Danke“ sagen oder „Entschuldigung“) nachahmen, um Vertrauen aufzubauen. Diese menschenähnliche Interaktion kann Kinder verwirren und dazu verleiten, falsche Inhalte zu glauben oder anzunehmen, sie würden mit einer echten Person und nicht mit einer Maschine sprechen. Der Zeitpunkt dieser Einführung ist bemerkenswert, da Australien plant, ab Dezember dieses Jahres Kindern unter 16 Jahren das Erstellen von Social-Media-Konten zu verbieten. Während dieses Verbot den Schutz von Kindern zum Ziel hat, fallen generative KI-Werkzeuge wie der Chatbot Gemini außerhalb seines Geltungsbereichs, was zeigt, dass die Herausforderungen des Internetsicherheitsbereichs über traditionelle soziale Medien hinausreichen. Eltern in Australien müssen daher wachsam bleiben, sich kontinuierlich über neue digitale Tools informieren und die Grenzen sozialer Medien bei der kindlichen Sicherheit besser verstehen. Angesichts dieser Entwicklungen ist es ratsam, dringend eine digitale Fürsorgepflicht für große Technologiekonzerne wie Google einzuführen, die sicherstellt, dass Kindesschutz bei der Entwicklung und dem Einsatz von KI-Technologien höchste Priorität hat. Eltern und Pädagogen sollten proaktiv die sichere und informierte Nutzung von KI-Chatbots begleiten, technische Schutzmaßnahmen mit Aufklärung und Überwachung ergänzen, um die damit verbundenen Risiken zu minimieren.