Nedavna študija je osvetlila kakovost in zanesljivost vsebin, ustvarjenih s pomočjo umetne inteligence, na področju oskrbe dojenčkov in nosečnosti, s posebnim poudarkom na Googlovih Povzetkih umetne inteligence in Izpostavljenih povzetkih. Raziskovalci so izvedli obsežno revizijo, pri kateri so analizirali 1508 poizvedb s tega področja, da bi ocenili doslednost in verodostojnost informacij, predstavljenih uporabnikom. Rezultati so razkrili pomembne razlike, ki sprožajo skrbi glede točnosti zdravstvenih informacij, dostopnih prek široko uporabljanih iskalnih platform. Ena izmed ključnih ugotovitev je bila neenakost med Google Povzetki umetne inteligence in Izpostavljenimi povzetki, prikazanimi na istem iskalnem rezultatu. V približno 33 odstotkih pregledanih primerov se informacije iz teh dveh virov, ustvarjenih s pomočjo AI, niso ujemale, kar je potencialno zmedlo uporabnike, ki iščejo zanesljive nasvete o občutljivih temah, kot sta nosečnost in zdravje dojenčkov. Ta razlika poudarja velik izziv pri zagotavljanju enotnosti in zaupanja v različnih formatih vsebin, ki jih ponuja Google. Poleg tega je študija pokazala zaskrbljujoč pomanjkanje medicinskih varovalk in opozorilnih navedb znotraj teh povzetkov in pregledov, ustvarjenih z AI. Le 11 odstotkov povzetkov umetne inteligence in zgolj 7 odstotkov Izpostavljenih povzetkov je vsebovalo jasne medicinske varovalke — izjave, ki spodbujajo uporabnike k posvetu z zdravnikom ali opozarjajo na previdnost glede danih informacij. Njihova skromna prisotnost kaže na nezadostne ukrepe za zmanjšanje tveganja širjenja napačnih informacij, kar je še posebej resno zaradi narave zdravstvenih tem.

Posledice so pomembne, še posebej ob upoštevanju, da se mnogi zanašajo na iskalnike in njihove vsebine, ustvarjene z AI, za hitro pridobivanje odgovorov med odločanjem o zdravju. Neenakosti in pomanjkanje medicških smernic, odkritih v izhodnih gradivih AI, lahko pripeljejo do zmede ali napačnih odločitev med nosečnicami in negovalci, ki iščejo informacije o oskrbi dojenčkov. Študija poudarja nujno potrebo, da tehnološka podjetja, še posebej tiste, ki razvijajo storitve z umetno inteligenco za obveščanje, uvedejo boljše nadzorno in preverjalno mehanizme kakovosti. Izboljšanje zanesljivosti Google Povzetkov in Izpostavljenih povzetkov zahteva vključitev medicškega strokovnega znanja v njihovo ustvarjanje in zagotovitev, da so medicinske varovalke jasno in vidno prikazane, da uporabnikom nudijo razumevanje o naravi informacij kot priporočilnih. Poleg tega raziskava poziva k večji preglednosti glede virov in metodologij, ki jih sistemi AI uporabljajo za kuracijo in sintezo zdravstvenih informacij. Takšna transparentnost bi olajšala zunanje revizije, okrepila zaupanje uporabnikov ter podpirala stalne izboljšave natančnosti in varnosti vsebin, posredovanih prek umetne inteligence. V zaključku, saj umetna inteligenca vedno bolj vpliva na način, kako posamezniki dostopajo do zdravstvenih informacij na spletu, je vzdrževanje strogih standardov za natančnost, doslednost in varnost nujno. Ta revizija vsebin Googlovih AI virov za oskrbo dojenčkov in nosečnost razkriva kritične vrzeli, ki jih je treba odpraviti, da bi zaščitili in opolnomočili uporabnike pri sprejemanju informiranih odločitev o zdravju. Študija predstavlja pomemben poziv k ukrepanju za razvijalce AI, zdravstvene delavce in regulatorje, naj skupaj oblikujejo celovite smernice ter nadzorne mehanizme za vsebine zdravstvenega značaja, ustvarjene z umetno inteligenco.