Szybkie tempo rozwoju sztucznej inteligencji (AI) generatywnej stanowi znaczne wyzwanie jeśli chodzi o nadążanie za nią i kształtowanie opinii na jej temat. AI jest rewolucyjną siłą, która wymaga ciągłego namysłu, jak maksymalizować jej korzyści, minimalizując jednocześnie ryzyka. W dziedzinie medycyny, nowe technologie mają potencjał przynosić ogromne korzyści, takie jak przyspieszanie i poprawa procesów diagnostycznych, personalizacja interwencji profilaktycznych i terapeutycznych oraz uwolnienie zatrudnionego personelu od czasochłonnych zadań biurokratycznych. W przeciwieństwie do innych branż, nie ma obaw w świecie opieki zdrowotnej, że AI zastąpi ludzi i doprowadzi do utraty miejsc pracy, ponieważ rosnące obciążenie jest znacznie większe niż liczba dostępnych pracowników. Jednak istnieją obawy dotyczące potencjalnych negatywnych konsekwencji tych narzędzi, zwłaszcza ich trudności w rozróżnieniu prawdziwych informacji od fałszywych. "Halucynacje" AI mogą nawet zmylić lekarzy, jeśli błędnie wykorzystają ChatGPT jako wyszukiwarkę. System ten ma na celu zadowolenie i generuje wiarygodne fakty oraz fałszywe odniesienia. Rozpowszechnianie fałszywych informacji staje się szczególnie niebezpieczne, gdy wprowadza w błąd pacjentów, którzy nie potrafią rozpoznać ich prawdziwego charakteru, zwłaszcza gdy dezinformacja jest celowa, a nie przypadkowa. Problem dezinformacji i fake newsów nie jest nowy; jest to temat już od wielu lat, zwłaszcza od wzrostu popularności internetu i mediów społecznościowych. Mimo naszych ciągłych dyskusji innowacja nadal postępuje w szybkim tempie, a my nadal staramy się w pełni zrozumieć jej implikacje. To wyzwanie, by poruszać się w dziedzinie uczenia maszynowego i dużych modeli językowych. Podczas gdy komputerowo generowane filmy zostały słusznie uznane za fałszywe w sytuacjach, które przyciągnęły uwagę światową, identyfikacja i zwalczanie fali fałszywych informacji na temat zdrowia, rozprzestrzenianej przez ludzi o zamiarach szkodliwych online - lub potencjalnie już opublikowanych - będzie bardziej skomplikowane. Na podstawie tego, BMJ poświęcił miejsce i komentarz dla badania, które ujawniło, że większość dostępnych systemów nie posiada wystarczających zabezpieczeń przed dezinformacją, nawet gdy środki ostrożności można wprowadzić. Wydaje się, że twórcy tych narzędzi nie zdają sobie sprawy z ryzyka związanego z nowymi technologiami.

Te ryzyka wykraczają poza dezinformację, obejmując również kwestie prywatności i potwierdzanie istniejących uprzedzeń na podstawie płci, pochodzenia etnicznego lub innych czynników. Na podstawie dostępnych informacji, AI ma potencjał do utrwalania stereotypów i negatywnego wpływu na społeczeństwo. Rozwiązania i możliwości redukcji ryzyka już istnieją dla każdego z tych problemów. Jednak istotne jest, aby wszyscy byli świadomi ich istotności i starali się je skrupulatnie wdrażać. Ustawodawcy podjęli działania, a Parlament Europejski niedawno uchwalił pierwsze na świecie prawo dotyczące AI. Prawo to zostało stworzone dla globalnego problemu, który nie może skutecznie być rozwiązany na poziomie poszczególnych państw. Jednak mimo dobrych intencji, wydaje się, że prawo to ma ograniczoną skuteczność w zapobieganiu szkodliwym działaniom. Ważne jest, aby wszyscy zachowali czujność i ostrożność, aby uniknąć demonizowania innowacji, która ma potencjał ratowania życia i poprawy ogólnego zdrowia. Ten artykuł został przetłumaczony z Univadis Italy za pomocą różnych narzędzi redakcyjnych, w tym AI, w ramach procesu publikacji. Przed publikacją treść została zweryfikowana przez redaktorów.