En ny studie har belyst kvaliteten og påliteligheten til innhold generert av kunstig intelligens når det gjelder babahjelp og svangerskap, med særlig fokus på Google's AI-overviews og utvalgte utdrag. Forskerne gjennomførte en omfattende gjennomgang, der de analyserte 1 508 søk innen dette feltet for å vurdere konsistensen og troverdigheten til informasjonen som presenteres for brukerne. Resultatene avdekket betydelige forskjeller som vekker bekymring for nøyaktigheten av AI-middelet helseinformasjon tilgjengelig gjennom de mest brukte søkeplattformene. Et viktig funn var uoverensstemmelsen mellom AI-overviews og utvalgte utdrag som vises på de samme søkeresultatssider. I omtrent 33 prosent av de gjennomgåtte tilfellene stemte ikke informasjonen fra disse to AI-genererte kildene overens, noe som potensielt kan skape forvirring for brukere som søker pålitelig råd om sensitive temaer som svangerskapsomsorg og barnehelse. Denne forskjellen understreker en stor utfordring med å sikre uniformitet og troverdighet på tvers av de ulike AI-drevne innholdsformatene Google tilbyr. Studien identifiserte også en alvorlig mangel på medisinske sikkerhets- og ansvarsfraskrivelser i disse AI-genererte utdragene og oversiktene. Bare 11 prosent av AI-overviews og kun 7 prosent av utvalgte utdrag inkluderte eksplisitte medisinske sikkerhetsadvarsler—uttalelser som oppfordrer brukere til å konsultere helsepersonell eller å utvise forsiktighet med tanke på informasjonen som gis.

Deres sparsommelige tilstedeværelse peker på utilstrekkelige tiltak for å redusere risikoen for feilinformasjon, noe som er spesielt alvorlig gitt helserelaterte temaer. Konsekvensene er betydelige, særlig fordi mange stoler på søkemotorer og deres AI-genererte innhold for raske svar under helserelaterte avgjørelser. Uoverensstemmelsen og mangel på medisinsk veiledning i AI-innholdet kan føre til misforståelser eller feilaktige beslutninger blant gravide og omsorgspersoner som søker informasjon om babyomsorg. Studien understreker et akutt behov for teknologiselskaper, særlig de som utvikler AI-drevne informasjonsløsninger, om å innføre strengere kvalitetskontroller og verifiseringsprosesser. For å forbedre påliteligheten til AI-overviews og utvalgte utdrag må det inkluderes medisinsk ekspertise i utarbeidelsen, og medisinske sikkerhetsadvarsler må gjøres tydelig synlige for å informere brukerne om at innholdet er rådgivende. I tillegg etterspøres større åpenhet om kildene og metodene AI-systemene bruker for å kurere og syntetisere helserelatert informasjon. En slik åpenhet vil lette eksterne revisjoner, bygge tillit hos brukerne, og støtte kontinuerlige forbedringer av nøyaktigheten og sikkerheten i AI-basert informasjonsformidling. Avslutningsvis, ettersom kunstig intelligens i økende grad påvirker hvordan personer skaffer seg helseinformasjon på nettet, er det avgjørende å opprettholde strenge standarder for nøyaktighet, konsistens og sikkerhet. Denne revisjonen av Googles AI-innhold om babyomsorg og svangerskap avdekker kritiske mangler som må adresseres for å beskytte og styrke brukere i å ta informerte helserelaterte beslutninger. Studien fungerer som en viktig oppfordring til AI-utviklere, helsepersonell og regulatorer om å samarbeide om å etablere omfattende retningslinjer og tilsynsordninger for AI-generert helseinformasjon.