Nedávná studie osvětlila kvalitu a spolehlivost obsahu generovaného umělou inteligencí týkajícího se péče o dítě a těhotenství, se zvláštním zaměřením na Přehledy AI a Vybrané odpovědi od Googlu. Výzkumníci provedli rozsáhlý audit, při kterém analyzovali 1508 dotazů v této oblasti, aby vyhodnotili konzistenci a důvěryhodnost informací, které jsou uživatelům poskytovány. Výsledky odhalily významné rozdíly, které vyvolávají obavy o přesnost zdravotních informací dostupných prostřednictvím široce používaných vyhledávačů. Klíčovým zjištěním bylo ne konzistentní zobrazení Přehledů AI a Vybraných odpovědí na stejných stránkách s výsledky vyhledávání. Přibližně v 33 procentech případů se informace z těchto dvou AI-generovaných zdrojů neshodovaly, což může způsobit zmatek u uživatelů hledajících spolehlivé rady o citlivých tématech, jako je péče o těhotenství a zdraví kojenců. Tento rozdíl poukazuje na hlavní výzvu v zajištění jednotnosti a důvěryhodnosti různých formátů obsahu založených na umělé inteligenci, které Google nabízí. Studie také odhalila znepokojivý nedostatek lékařských upozornění a výhrad v těchto AI-generovaných shrnutích a přehledech. Pouze 11 procent Přehledů AI a pouhých 7 procent Vybraných odpovědí obsahovalo explicitní lékařská upozornění — opatření, která uživatelům doporučují konzultovat zdravotnické profesionály nebo být opatrní s poskytnutými informacemi. Jejich řídká přítomnost naznačuje nedostatečné opatření k eliminaci rizika dezinformací, což je zvláště závažné vzhledem ke klíčové povaze témat souvisejících se zdravím.

Důsledky jsou významné, zejména vzhledem k tomu, že mnoho lidí spoléhá na vyhledávače a jejich obsah generovaný umělou inteligencí pro rychlé odpovědi při rozhodování o zdraví. Neshody aabsence lékařského vedení zjištěné v AI výstupech mohou vést k nedorozuměním nebo nesprávným rozhodnutím u těhotných osob i pečovatelů hledajících informace o péči o dítě. Studie zdůrazňuje naléhavou potřebu, aby technologické společnosti, především ty, které vytvářejí služby založené na AI, přijaly přísnější kontrolní mechanismy a ověřovací procesy. Zlepšení spolehlivosti Přehledů AI a Vybraných odpovědí vyžaduje začlenění lékařské odbornosti do jejich tvorby a zajištění viditelných lékařských upozornění, která by informovala uživatele o poradenské povaze obsahu. Navíc výzkum volá po větší transparentnosti ohledně zdrojů a metodologií, které systémy AI používají k vyhledávání a syntéze zdravotních informací. Taková transparentnost by usnadnila externí audity, zvýšila důvěru uživatelů a podpořila kontinuální zlepšování přesnosti a bezpečnosti doručování informací prostřednictvím AI. Na závěr lze říci, že jak umělá inteligence stále více ovlivňuje způsoby, jakým jednotlivci získávají zdravotní informace online, je nezbytné zachovávat přísné standardy přesnosti, konzistence a bezpečnosti. Tento audit obsahu o péči o dítě a těhotenství od Googlu odhalil zásadní mezery, které je třeba řešit, aby byla zachována ochrana a posíleno postavení uživatelů při činění informovaných zdravotních rozhodnutí. Studie slouží jako důležitý výzva k akci pro vývojáře AI, zdravotnické odborníky i regulátory k vytvoření komplexních směrnic a mechanismů dohledu nad zdravotními informacemi generovanými umělou inteligencí.