Un estudi recent ha il·luminat la qualitat i fiabilitat del contingut generat per l’intel·ligència artificial en matèria de cura del bebé i embaràs, amb un enfocament particular en les Visions Generals d’AI de Google i els Extractes destacats. Els investigadors van realitzar una auditoria exhaustiva, analitzant 1508 consultes d’aquest camp per avaluar la coherència i credibilitat de la informació proporcionada als usuaris. Els resultats van revelar disparitats importants que plantegen preocupacions sobre l’exactitud de la informació de salut mediada per IA accessible a través de plataformes de cerca molt utilitzades. Una troballa clau va ser la inconsistència entre les Visions Generals d’AI i els Extractes destacats mostrats a la mateixa pàgina de resultats de cerca. En aproximadament el 33 per cent dels casos revisats, la informació d’aquestes dues fonts generades per IA no coincidien, podent causar confusió als usuaris que cerquen consells fiables sobre temes sensibles com l’atenció prenatal i la salut del nadó. Aquesta disparitat subratlla un gran repte per garantir l’uniformitat i la fiabilitat en els diversos formats de contingut impulsats per IA que ofereix Google. A més, l’estudi va identificar una preocupant manca de garanties mèdiques i avís en aquests snippets i visions generals generades per IA. Només un 11 per cent de les Visions Generals d’AI i tan sols un 7 per cent dels Extractes destacats incloïen garanties mèdiques explícites—declaracions que animen els usuaris a consultar professionals sanitaris o a tenir cautela amb la informació proporcionada. La seva escassa presència indica mesures inadequades per mitigar el risc de desinformació, un problema especialment seriós donada la importància dels temes relacionats amb la salut.

Les implicacions són importants, especialment tenint en compte que moltes persones confien en els motors de cerca i el seu contingut generat per IA per obtenir respostes ràpides durant la presa de decisionis de salut. La inconsistència i la manca de guia mèdica trobades en les sortides de IA podrien conduir a malentesos o decisions equivocades entre persones embarassades i cuidadors que cerquen informació sobre la cura del nadó. L’estudi posa de manifest la necessitat Urgent que les empreses tecnològiques, especialment aquelles que creen serveis d’informació basats en IA, adoptin controls de qualitat més estrictes i processos de verificació. Millorar la fiabilitat de les Visions Generals d’AI i dels Extractes destacats requereix incorporar l’expertesa mèdica en la seva creació i garantir que les garanties mèdiques siguin clarament visibles per informar els usuaris sobre la seva naturalesa assessora. A més, la recerca fa una crida a una major transparència sobre les fonts i metodologies que utilitzen els sistemes d’IA per seleccionar i sintetitzar informació relacionada amb la salut. Aquesta transparència facilitaria Auditories externes, augmentaria la confiança dels usuaris i donaria suport a millores continuades en la precisió i seguretat de la informació mediada per IA. En conclusió, ja que la intel·ligència artificial influence cada vegada més en la manera com les persones obtenen informació de salut en línia, és imprescindible mantenir normes rigoroses d’exactitud, coherència i seguretat. Aquesta auditoria del contingut relacionat amb la cura del bebé i l’embaràs generat per l’AI de Google revela greus mancances que cal abordar per protegir i potenciar els usuaris en la presa de decisions informades en matèria de salut. L’estudi serveix com a una crida fonamental a la acció per als desenvolupadors d’IA, professionals sanitaris i reguladors per col·laborar en l’establiment d’un marc de pautes i mecanismes de supervisió integrals per a la informació de salut generada per IA.