Instagram har begynt å teste bruk av kunstig intelligens for å identifisere om barn lyver om alderen sin på appen, ifølge morselskapet Meta Platforms mandag. Meta avslørte at de har brukt AI for å estimere brukeres alder over en periode; imidlertid vil foto- og videoer-sharing-plattformen nå “proaktivt” søke etter kontoer de mistenker tilhører tenåringer, selv om brukerne har oppgitt falske fødselsdatoer ved registrering. Når en bruker blir funnet å ha feilrepresentert alderen sin, vil kontoen automatisk bli klassifisert som en tenåringskonto, som har flere restriksjoner sammenlignet med voksenkontoer. Tenåringskontoer er som standard private, og meldinger er begrenset slik at tenåringer kun kan motta meldinger fra personer de følger eller allerede er koblet til. “Sensitive innhold, ” som videoer som viser slagsmål eller fremmer kosmetiske prosedyrer, vil bli begrenset, opplyste Meta.

I tillegg vil tenåringer motta varsler dersom de bruker Instagram i over 60 minutter, og en “sovemodus” vil aktivere mellom kl. 22 og 07, noe som slår av varsler og sender automatiske svar på Direktemeldinger. Meta trener AI-en sin til å oppdage ulike indikatorer, som type innhold kontoen engasjerer seg i, profilopplysninger og opprettelsesdato for kontoen, for å vurdere brukerens alder. Disse forbedrede forholdsreglene kommer ettersom sosiale medieselskaper står overfor økt gransking angående plattformenes innvirkning på unges mentalhelse og velvære. I tillegg prøver flere stater å gjennomføre lover for aldersverifisering, selv om disse innsatsene har møtt rettslige utfordringer. Meta og andre sosiale mediefirmaer går inn for å legge ansvaret på app-butikkene for å verifisere aldre, som svar på kritikk om at de ikke forsvarer tilstrekkelig at produktene deres er trygge for barn eller hindrer brukere under 13 år fra å få tilgang til dem. Videre vil Instagram varsle foreldre med informasjon som kan hjelpe dem å diskutere med tenåringene viktigheten av å oppgi riktig alder online, la selskapet til.