Een recente studie heeft de kwaliteit en betrouwbaarheid van door kunstmatige intelligentie gegenereerde inhoud met betrekking tot babyzorg en zwangerschap belicht, met speciale aandacht voor Google's AI Overviews en Featured Snippets. Onderzoekers voerden een uitgebreide controle uit, waarbij 1. 508 zoekopdrachten binnen dit domein werden geanalyseerd om de consistentie en geloofwaardigheid van de aan gebruikers gepresenteerde informatie te beoordelen. De resultaten onthulden significante verschillen die vragen oproepen over de nauwkeurigheid van AI-ondersteunde gezondheidsinformatie die via veelgebruikte zoekplatforms toegankelijk is. Een belangrijke bevinding was de inconsistentie tussen AI Overviews en Featured Snippets die op dezelfde zoekresultatenpagina werden weergegeven. In ongeveer 33 procent van de beoordeelde gevallen stonken de informatie uit deze twee AI-gegenereerde bronnen niet met elkaar overeen, wat mogelijk verwarring veroorzaakt bij gebruikers die betrouwbare adviezen zoeken over gevoelige onderwerpen zoals zwangerschapszorg en de gezondheid van baby's. Deze discrepantie benadrukt een grote uitdaging om uniformiteit en betrouwbaarheid te waarborgen binnen de verschillende AI-gedreven contentformaten die Google aanbiedt. Daarnaast identificeerde de studie een verontrustend gebrek aan medische waarborgen en disclaimers binnen deze AI-gegenereerde snippets en overzichten. Slechts 11 procent van de AI Overviews en slechts 7 procent van de Featured Snippets bevatte expliciete medische waarborgen—uitingen die gebruikers aanmoedigen om een zorgverlener te raadplegen of voorzichtig te zijn met de verstrekte informatie.

Hun spaarzame aanwezigheid wijst op onvoldoende maatregelen om het risico op misinformatie te verminderen, een bijzonder serieus probleem gezien de kritieke aard van gezondheidsgerelateerde onderwerpen. De implicaties hiervan zijn aanzienlijk, vooral omdat veel mensen vertrouwen op zoekmachines en hun AI-gegenereerde inhoud voor snelle antwoorden bij medische beslissingen. De inconsistentie en het gebrek aan medische richtlijnen die in AI-uitkomsten worden gevonden, kunnen leiden tot misverstanden of verkeerd gerichte beslissingen onder zwangere personen en verzorgers die zoeken naar informatie over babyzorg. De studie benadrukt de dringende noodzaak voor technologiebedrijven, vooral degenen die AI-gedreven informatievoorziening ontwikkelen, om strengere kwaliteitscontroles en verificatieprocessen te implementeren. Het verbeteren van de betrouwbaarheid van AI Overviews en Featured Snippets vereist het betrekken van medische expertise bij het creëren ervan en ervoor te zorgen dat medische waarborgen duidelijk zichtbaar zijn, zodat gebruikers worden geïnformeerd over de adviesfunctie van de inhoud. Verder roept het onderzoek op tot meer transparantie over de bronnen en methodologieën die AI-systemen gebruiken om gezondheidsinformatie te selecteren en samen te vatten. Deze transparantie zou externe audits mogelijk maken, het vertrouwen van gebruikers vergroten en voortdurende verbeteringen in de nauwkeurigheid en veiligheid van AI-ondersteunde informatie ondersteunen. Samenvattend, aangezien kunstmatige intelligentie steeds meer invloed krijgt op de manier waarop mensen online gezondheidsinformatie verkrijgen, is het handhaven van strikte normen voor nauwkeurigheid, consistentie en veiligheid essentieel. Deze audit van Google's AI-inhoud over babyzorg en zwangerschap onthult essentiële hiaten die moeten worden aangepakt om gebruikers te beschermen en in staat te stellen geïnformeerde gezondheidsbeslissingen te nemen. De studie vormt een belangrijke oproep aan AI-ontwikkelaars, gezondheidsprofessionals en toezichthouders om samen te werken aan het opstellen van uitgebreide richtlijnen en toezichtmechanismen voor AI-gegenereerde gezondheidsinformatie.