Egy nemrégiben végzett vizsgálat feltárta, hogy az intelligens mesterséges intelligencia által generált tartalmak, különösen a Google AI Áttekintései és Kiemelt Rövid Szöveges Részei a babázással és terhességgel kapcsolatos kérdésekben, milyen minőségűek és megbízhatóak. A kutatók kiterjedt auditot végeztek, 1508 kérdést elemezve ezen a területen, hogy értékeljék az információk folyamatosságát és hitelességét, amelyeket a felhasználóknak kínálnak. Az eredmények jelentős eltéréseket mutattak, ami aggodalomra ad okot azzal kapcsolatban, hogy az AI által közvetített egészségügyi információk mennyire pontosak, különösen a széles körben használt keresőplatformokon elérhető tartalmak esetében. Egyik fő megállapítás volt a következetlenség azonos keresési eredményoldalakon megjelenő AI Áttekintések és Kiemelt Rövid Szöveges Részek között. Körülbelül az esetek 33 százalékában ezek a két AI által generált forrásból származó információk nem egyeztek meg, ami zavart okozhat a felhasználók számára, akik megbízható tanácsokat keresnek érzékeny témákban, mint a terhesség gondozása vagy csecsemő-egészség. Ez a különbség rámutat arra, hogy kihívást jelent egységes és megbízható tartalom biztosítása a Google által kínált különböző AI-alapú formátumokban. Ezenkívül a tanulmány aggodalomra okot adó hiányosságot mutatott az ilyen AI által generált rövid szövegekben és áttekintésekben, nevezetesen az orvosi védőintézkedések és figyelmeztetések hiányát. Az AI Áttekintések mindössze 11 százalékában, a Kiemelt Rövid Szövegeknek pedig csak 7 százalékában szerepeltek explicit orvosi figyelmeztetések – olyan nyilatkozatok, amelyek arra ösztönzik a felhasználókat, hogy konzultáljanak egészségügyi szakemberekkel vagy legyenek óvatosak az adott információval kapcsolatban.

Ez a ritka jelenlét azt jelzi, hogy nemtesznek elég intézkedéseket az álhírek elkerülése érdekében, különösen komoly problémát vet fel az egészségügyi témák érzékenysége miatt. A következmények súlyosak, különösen mert sokan keresnek gyors válaszokat az egészségügyi problémákkal kapcsolatos döntésekhez a keresőmotorokon és az azok által generált tartalmakon keresztül. Az AI által nyújtott információk közötti inkonzisztencia és a hiányzó orvosi útmutatások veszélyeztetik a várandósok és gondozók közötti bizalmat, valamint félreértésekhez vagy helytelen döntésekhez vezethetnek a csecsemőgondozással kapcsolatban. A tanulmány sürgős szükségességet mutat arra, hogy a technológiai cégek, különösen azok, akik AI-alapú információs szolgáltatásokat fejlesztenek, szigorúbb minőség-ellenőrzéseket és ellenőrzési folyamatokat vezessenek be. Az AI Áttekintések és Kiemelt Rövid Szövegek megbízhatóságának növelése érdekében elengedhetetlen, hogy orvosi szakértőket vonjanak be az azok készítésébe, és biztosítsák, hogy ezekben nyilvánvalóan szerepeljenek orvosi védőintézkedések, ezzel tájékoztatva a felhasználókat a tartalom tanácsadó jellegéről. Ezenkívül a kutatás felhívja a figyelmet arra, hogy a források és módszertanok átláthatóságát javítani kell, hogy megkönnyítse a külső ellenőrzéseket, növelje a felhasználói bizalmat, és támogassa az AI által közvetített információk pontosságának és biztonságának folyamatos javítását. Összefoglalva, ahogy a mesterséges intelligencia egyre nagyobb mértékben befolyásolja az online egészségügyi információkhoz való hozzáférést, kulcsfontosságú, hogy szigorú minőségi normákat tartson fenn az adatok pontossága, következetessége és biztonsága terén. A Google babázási és terhességi témájú AI-tartalmainak auditja rámutat olyan lényeges hiányosságokra, melyeket sürgősen orvosolni kell az felhasználók védelme és tájékozott döntéshozatalának támogatása érdekében. A tanulmány fontos felhívás az AI-fejlesztők, egészségügyi szakemberek és szabályozók számára, hogy közösen dolgozzanak ki átfogó irányelveket és ellenőrzési mechanizmusokat az AI által generált egészségügyi információk biztonságosságának és megbízhatóságának biztosítása érdekében.