Un studiu recent a iluminat calitatea și fiabilitatea conținutului generat de inteligența artificială în domeniul îngrijirii copilului și al sarcinii, concentrându-se în special pe Vizualizările AI și Fragmentările Evidențiate ale Google. Cercetătorii au realizat o analiză amplă, examinând 1. 508 interogări din acest domeniu pentru a evalua coerența și credibilitatea informațiilor prezentate utilizatorilor. Rezultatele au evidențiat disparități semnificative care ridică îngrijorări privind acuratețea informațiilor despre sănătate accesibile prin platformele de căutare cel mai frecvent utilizate. Un aspect major descoperit a fost inconsistența între Vizualizările AI și Fragmentările Evidențiate afișate pe aceeași pagină cu rezultate de căutare. În aproximativ 33 la sută din cazuri, informațiile provenite din aceste două surse generate de AI nu s-au corespunzător, putând cauza confuzie pentru utilizatori în căutarea unor sfaturi de încredere despre subiecte sensibile precum îngrijirea sarcinii și sănătatea sugarului. Această diferență subliniază o provocare majoră în asigurarea uniformității și credibilității conținutului AI din diferite formate oferite de Google. De asemenea, studiul a identificat o lipsă îngrijorătoare de măsuri de protecție medicală și de avertismente în aceste fragmente și vizualizări generate de AI. Doar 11 la sută din Vizualizările AI și doar 7 la sută din Fragmentările Evidențiate includeau măsuri explicite de protecție medicală — declarații care încurajau utilizatorii să consulte profesioniști în domeniul sănătății sau să fie precauți în privința informațiilor prezentate.

Prezența lor rarefiată indică măsuri insuficiente pentru reducerea riscului de dezinformare, o problemă deosebit de serioasă dat fiind caracterul critic al subiectelor legate de sănătate. Implicațiile sunt semnificative, mai ales având în vedere că mulți oameni se bazează pe motoarele de căutare și pe conținutul generat de AI pentru răspunsuri rapide în deciziile legate de sănătate. Inconsistența și lipsa ghidurilor medicale descoperite în rezultatele AI pot duce la înțelegeri greșite sau decizii nepotrivite, mai ales pentru femeile însărcinate și persoanele care îngrijesc copii, căutând informații despre îngrijirea sugarului. Studiul evidențiază o nevoie urgentă pentru companiile tehnologice, în special cele care creează servicii de informații bazate pe AI, de a adopta controale de calitate mai stricte și proceduri de verificare mai riguroase. Îmbunătățirea fiabilității Vizualizărilor AI și Fragmentărilor Evidențiate necesită integrarea expertizei medicale în procesul de creare și asigurarea faptului că măsurile de protecție medicală sunt vizibil evidențiate pentru a informa utilizatorii despre caracterul consultativ al conținutului. Mai mult, cercetarea solicită o transparență mai mare în privința surselor și metodologiilor folosite de sistemele AI pentru a curatoria și sintetiza informații legate de sănătate. O astfel de transparență ar facilita auditurile externe, ar crește încrederea utilizatorilor și ar sprijini îmbunătățiri continue în ceea ce privește acuratețea și siguranța furnizării de informații generate de AI. În concluzie, pe măsură ce inteligența artificială influențează tot mai mult modul în care persoanele obțin informații despre sănătate online, menținerea unor standarde riguroase pentru exactitate, coerență și siguranță devine esențială. Acest audit al conținutului AI de pe Google, axat pe îngrijirea copilului și sarcină, relevă lacune critice care trebuie remediate pentru a proteja și a împuternici utilizatorii să ia decizii informate în domeniul sănătății. Studiul reprezintă un apel crucial la acțiune pentru dezvoltatorii de AI, profesioniștii în domeniul sănătății și autorități de reglementare, pentru a colabora în stabilirea unor ghiduri și mecanisme de supraveghere cuprinzătoare în privința informațiilor de sănătate generate de AI.