Instagram telah mulai menguji penggunaan kecerdasan buatan untuk mengidentifikasi apakah anak-anak berbohong tentang usia mereka di aplikasi, menurut perusahaan induknya Meta Platforms pada hari Senin. Meta mengungkapkan bahwa mereka telah menggunakan AI untuk memperkirakan usia pengguna selama beberapa waktu; namun, platform berbagi foto dan video ini kini akan “secara proaktif” mencari akun yang dicurigai milik remaja, meskipun pengguna tersebut telah memberi tanggal lahir yang tidak akurat saat pendaftaran. Ketika seorang pengguna diketahui melakukan penipuan usia, akunnya secara otomatis akan diklasifikasikan sebagai akun remaja, yang memiliki pembatasan lebih ketat dibandingkan dengan akun dewasa. Akun remaja bersifat pribadi secara default, dan pesan pribadi dibatasi sehingga remaja hanya dapat menerima pesan dari orang yang mereka ikuti atau yang sudah terhubung dengan mereka. “Konten sensitif, ” seperti video yang menampilkan kerusuhan atau mempromosikan prosedur kosmetik, akan dibatasi, kata Meta.

Selain itu, remaja akan menerima pemberitahuan jika mereka menghabiskan waktu lebih dari 60 menit di Instagram, dan “mode tidur” akan aktif antara pukul 10 malam dan 7 pagi, yang mematikan notifikasi dan mengirim balasan otomatis ke pesan langsung. Meta melatih AI-nya untuk mendeteksi berbagai indikator, seperti jenis konten yang diikuti akun, rincian profil, dan tanggal pembuatan akun, untuk menilai usia pengguna. Langkah perlindungan yang ditingkatkan ini muncul karena perusahaan media sosial menghadapi pengawasan yang semakin ketat terkait dampaknya terhadap kesehatan mental dan kesejahteraan pengguna muda. Selain itu, lebih banyak negara bagian berusaha menerapkan undang-undang verifikasi usia, meskipun upaya ini menghadapi tantangan hukum. Meta dan perusahaan media sosial lainnya menganjurkan agar tanggung jawab ditempatkan pada toko aplikasi untuk memverifikasi usia, menanggapi kritik bahwa mereka tidak cukup memastikan produk mereka aman bagi anak-anak atau mencegah pengguna di bawah 13 tahun mengaksesnya. Selain itu, Instagram akan memberi tahu orangtua dengan informasi yang dapat membantu mereka berdiskusi dengan remaja tentang pentingnya memberikan informasi usia yang akurat secara online, tambah perusahaan.