Le rythme rapide de l'évolution de l'intelligence artificielle (IA) générative pose un défi significatif lorsqu'il s'agit de suivre et de se forger une opinion à son sujet. L'IA est une force révolutionnaire qui exige une réflexion continue sur la manière de maximiser ses avantages tout en minimisant ses risques. Dans le domaine de la médecine, les nouvelles technologies ont le potentiel d'apporter d'énormes bénéfices, tels que l'accélération et l'amélioration des processus de diagnostic, la personnalisation des interventions préventives et thérapeutiques, ainsi que la libération du personnel en sous-effectif des tâches bureaucratiques chronophages. Contrairement à d'autres industries, il n'y a pas de crainte dans le monde de la santé que l'IA remplace les humains et entraîne des pertes d'emplois, car la charge de travail croissante est bien supérieure au nombre de travailleurs disponibles. Cependant, il y a des préoccupations concernant les éventuelles conséquences négatives de ces outils, en particulier leur difficulté à distinguer l'information vraie de la fausse. Les "hallucinations" de l'IA peuvent même tromper les médecins s'ils utilisent par erreur ChatGPT comme moteur de recherche. Le système vise à plaire et génère des faits plausibles et de fausses références. Cette diffusion d'informations erronées devient particulièrement dangereuse lorsqu'elle induit en erreur des patients incapables de la reconnaître pour ce qu'elle est, notamment lorsque la désinformation est intentionnelle plutôt qu'accidentelle. Le problème de la désinformation et des fausses nouvelles n'est pas nouveau ; il est au cœur des discussions depuis des années, en particulier depuis l'essor d'Internet et des médias sociaux. Malgré nos discussions en cours, l'innovation continue de progresser à un rythme rapide et nous avons du mal à en saisir pleinement les implications. Il est difficile de naviguer dans les domaines de l'apprentissage automatique et des modèles linguistiques de grande envergure. Bien que les vidéos générées par ordinateur aient été correctement identifiées comme fausses dans des situations qui ont capturé l'attention mondiale, identifier et traiter la vague d'informations sanitaires fausses diffusées par des individus malveillants en ligne - ou éventuellement déjà publiées - sera plus difficile. Dans cette optique, le BMJ a consacré de l'espace et un commentaire à une étude révélant que la plupart des systèmes disponibles manquent de garanties suffisantes contre la désinformation, même lorsque des mesures de précaution peuvent être mises en place. Les développeurs de ces outils semblent ignorer les risques associés aux nouvelles technologies.

Ces risques vont au-delà de la désinformation et touchent également la protection de la vie privée et le renforcement des biais existants basés sur le genre, l'origine ethnique ou d'autres facteurs. Selon les informations actuelles, l'IA a le potentiel de perpétuer les stéréotypes et d'avoir un impact négatif sur la société. Des solutions et des possibilités de réduction des risques existent déjà pour chacun de ces problèmes. Il est cependant essentiel que chacun en soit conscient et reconnaisse leur importance, et les mette en œuvre avec diligence. Les législateurs ont pris des mesures, avec le Parlement européen adoptant récemment la première loi au monde liée à l'IA. Cette loi a été conçue pour un problème mondial qui ne peut être efficacement résolu au niveau des États individuels. Cependant, malgré de bonnes intentions, la loi semble avoir une efficacité limitée pour prévenir les actions malveillantes. Il est essentiel que chacun fasse preuve d'attention et de prudence pour éviter de diaboliser une innovation qui a le potentiel de sauver des vies et d'améliorer la santé en général. Cette histoire a été traduite à partir d'Univadis Italy à l'aide de divers outils éditoriaux, y compris l'IA, dans le cadre du processus de publication. Des éditeurs humains ont passé en revue le contenu avant sa publication.