Generatif yapay zeka (AI) alanındaki hızlı evrim, onun hakkında hüküm oluşturmak ve adımlarını takip etmek konusunda büyük bir zorluk oluşturur. AI, faydalarını en üst düzeye çıkarmak ve risklerini en aza indirmek için sürekli bir şekilde değerlendirilmeyi gerektiren devrim niteliğinde bir güçtür. Tıp alanında, yeni teknolojiler tanı süreçlerini hızlandırma ve iyileştirme, kişiye özel önleyici ve tedavi edici müdahaleler ve zaman alıcı bürokratik görevlerden kurtulma gibi büyük faydalar getirebilir. Diğer sektörlerin aksine, sağlık dünyasında AI'nin insanları yerlerine geçirip iş kayıplarına neden olacağından endişe edilmez, çünkü artan iş yükü mevcut çalışan sayısından fazladır. Ancak, bu araçların olası olumsuz sonuçları konusunda endişeler bulunmaktadır, özellikle gerçek bilgiyi sahte bilgiden ayırt etmedeki zorlukları konusunda. AI'nin "hayalleri" hatta yanlışlıkla bir arama motoru olarak kullanıldığında doktorları bile aldatma potansiyeli vardır. Sistem, memnun etmeyi amaçlar ve mantıklı gerçekleri ve sahte referansları üretir. Bu yanlış bilginin yayılması, yanlış bilgiyi tanıma yeteneği olmayan hastaları yanılttığında özellikle tehlikeli hale gelir, özellikle bu yanlış bilgi kasıtlı olarak yayılıyorsa. Bilgilendirme ve sahte haber sorunu yeni değildir; özellikle internetin ve sosyal medyanın yükselişiyle birlikte yıllardır tartışılmaktadır. Süregelen tartışmalarımıza rağmen, yenilik hızla ilerlemeye devam ederken, etkilerini tam olarak kavramakta zorlanırız. Makine öğrenimi ve büyük dil modellerinin alanlarında gezinmek bir meydan okumadır. Küresel dikkati çeken durumlarda doğru bir şekilde sahte olduğu tespit edilen bilgisayar tarafından üretilen videoların aksine, kötü niyetli kişiler tarafından çevrimiçi olarak yayılan veya muhtemelen zaten yayımlanmış olan sahte sağlık bilgilerini tanımlamak ve ele almak daha zor olacaktır. Bu nedenle, BMJ, bir çalışmaya ayrılmış alan ve yorumlarla bu konuya odaklanmış durumdadır ve bu çalışma, önlemler alınabilecek olmasına rağmen mevcut sistemlerin çoğunun yanlış bilgiye karşı yeterli güvenlik önlemlerine sahip olmadığını ortaya koymaktadır. Bu araçların geliştiricileri, yeni teknolojilerle ilişkili risklerin farkında gibi görünmemektedir.

Bu riskler, yanlış bilgiye ek olarak, gizlilik endişeleri ve cinsiyet, etnik köken veya diğer faktörlere dayanan mevcut önyargıların pekiştirilmesine kadar uzanır. Mevcut bilgilere göre, AI, stereotipleri sürdürme ve toplum üzerinde olumsuz bir etkiye sahip olma potansiyeline sahiptir. Bu sorunların her biri için risk azaltma çözümleri ve olasılıkları zaten mevcuttur. Ancak, herkesin bunların farkında olması, önemlerini tanıması ve özenle uygulaması son derece önemlidir. Yasama organları harekete geçmiş ve Avrupa Parlamentosu yakın zamanda dünyanın ilk AI-related yasasını geçirmiştir. Bu yasa, bireysel devlet düzeyinde etkin bir şekilde ele alınamayan küresel bir sorun için tasarlanmıştır. Bununla birlikte, iyi niyetli olmasına rağmen, yasanın kötü niyetli eylemleri önlemede sınırlı etkisi olduğu görünmektedir. Herkesin dikkatli olmak ve önyargılı olmamak için çaba göstermesi, yaşamları kurtarabilecek ve genel sağlığı iyileştirebilecek bir yeniliği şeytanlaştırmaktan kaçınmak önemlidir. Bu hikaye, yayın sürecinin bir parçası olarak AI dahil çeşitli yayın araçları kullanılarak Univadis Italy'den tercüme edilmiştir. İnsan editörler içeriği yayımlamadan önce gözden geçirmiştir.