Sebuah studi terbaru telah menerangkan kualitas dan keandalan konten yang dihasilkan oleh kecerdasan buatan terkait perawatan bayi dan kehamilan, dengan fokus khusus pada Google’s AI Overviews dan Featured Snippets. Para peneliti melakukan audit ekstensif, menganalisis 1. 508 pertanyaan di bidang ini untuk menilai konsistensi dan kredibilitas informasi yang disajikan kepada pengguna. Hasilnya mengungkapkan disparitas signifikan yang menimbulkan kekhawatiran tentang keakuratan informasi kesehatan berbasis AI yang dapat diakses melalui platform pencarian yang banyak digunakan. Temuan utama adalah inkonsistensi antara AI Overviews dan Featured Snippets yang muncul di halaman hasil pencarian yang sama. Sekitar 33 persen dari kasus yang ditinjau, informasi dari kedua sumber yang dihasilkan oleh AI ini tidak cocok, berpotensi menyebabkan kebingungan bagi pengguna yang mencari saran terpercaya tentang topik sensitif seperti perawatan kehamilan dan kesehatan bayi. Ketidaksesuaian ini menyoroti tantangan besar dalam memastikan keseragaman dan kepercayaan dari berbagai format konten berbasis AI yang disediakan Google. Selain itu, studi ini mengidentifikasi kekhawatiran serius terkait kurangnya perlindungan medis dan disclaimer dalam snippet dan overview yang dihasilkan AI ini. Hanya 11 persen dari AI Overviews dan hanya 7 persen dari Featured Snippets yang menyertakan perlindungan medis secara eksplisit—pernyataan yang mendorong pengguna untuk berkonsultasi dengan profesional kesehatan atau memberikan peringatan tentang informasi yang disampaikan.

Kehadiran yang sedikit ini menunjukkan langkah mitigasi risiko misinformasi yang tidak cukup, sebuah isu yang sangat penting mengingat sifat kritis dari topik kesehatan. Implikasi dari temuan ini sangat signifikan, terutama karena banyak orang mengandalkan mesin pencari dan konten berbasis AI mereka untuk mendapatkan jawaban cepat saat membuat keputusan terkait kesehatan. Inkonsistensi dan kurangnya panduan medis pada output AI ini dapat menyebabkan salah paham atau keputusan yang salah, terutama di kalangan wanita hamil dan pengasuh yang mencari informasi tentang perawatan bayi. Studi ini menekankan kebutuhan mendesak bagi perusahaan teknologi, terutama mereka yang mengembangkan layanan informasi berbasis AI, untuk mengadopsi kontrol kualitas dan proses verifikasi yang lebih ketat. Meningkatkan keandalan AI Overviews dan Featured Snippets memerlukan integrasi keahlian medis dalam proses pembuatannya dan memastikan bahwa perlindungan medis dipaparkan secara menonjol agar pengguna sadar akan sifat advisori dari konten tersebut. Selain itu, penelitian ini menyerukan perlunya transparansi yang lebih besar terkait sumber dan metodologi yang digunakan sistem AI untuk mengkurasi dan mensintesis informasi terkait kesehatan. Transparansi ini akan memudahkan audit eksternal, meningkatkan kepercayaan pengguna, dan mendukung peningkatan berkelanjutan dalam keakuratan serta keamanan penyampaian informasi berbasis AI. Kesimpulannya, semakin meningkatnya pengaruh kecerdasan buatan dalam cara individu memperoleh informasi kesehatan secara daring menuntut standar ketat dalam hal akurasi, konsistensi, dan keamanan. Audit konten AI Google terkait perawatan bayi dan kehamilan ini mengungkapkan kekurangan penting yang harus segera diperbaiki untuk melindungi dan memberdayakan pengguna dalam membuat keputusan kesehatan yang tepat. Studi ini menjadi panggilan penting bagi pengembang AI, profesional kesehatan, dan regulator untuk bekerja sama dalam menetapkan pedoman dan mekanisme pengawasan yang komprehensif untuk informasi kesehatan berbasis AI.