El rápido avance de la evolución de la inteligencia artificial generativa (IA) presenta un desafío significativo para mantenerse al día y formar opiniones al respecto. La IA es una fuerza revolucionaria que demanda una reflexión constante sobre cómo maximizar sus beneficios mientras se minimizan sus riesgos. En el campo de la medicina, las nuevas tecnologías tienen el potencial de brindar enormes beneficios, como agilizar y mejorar los procesos de diagnóstico, personalizar intervenciones preventivas y terapéuticas, y liberar a personal insuficiente de tareas burocráticas que consumen mucho tiempo. A diferencia de otras industrias, en el mundo de la salud no hay temor de que la IA reemplace a los humanos y resulte en pérdida de empleos, ya que la carga de trabajo en aumento es mucho mayor que el número de trabajadores disponibles. Sin embargo, hay preocupaciones sobre las posibles consecuencias negativas de estas herramientas, especialmente en su dificultad para discernir la información verdadera de la falsa. Las "alucinaciones" de la IA pueden incluso engañar a los médicos si utilizan equivocadamente a ChatGPT como un buscador. El sistema tiene como objetivo complacer y genera hechos plausibles y referencias falsas. Esta difusión de información falsa se vuelve especialmente peligrosa cuando engaña a pacientes que carecen de habilidades para reconocerla, especialmente cuando la desinformación es intencional en lugar de accidental. El tema de la desinformación y las noticias falsas no es nuevo; ha sido tema de discusión durante años, especialmente desde el surgimiento de Internet y las redes sociales. A pesar de nuestras discusiones en curso, la innovación continúa progresando a un ritmo acelerado y nos resulta difícil comprender plenamente sus implicaciones. Es un desafío navegar por los ámbitos del aprendizaje automático y los modelos de lenguaje grandes. Si bien los videos generados por computadora se identificaron correctamente como falsos en situaciones que captaron la atención mundial, identificar y abordar la oleada de información de salud falsa difundida por individuos malintencionados en línea -o posiblemente ya publicada- resultará más desafiante. A la luz de esto, la BMJ ha dedicado espacio y comentarios a un estudio que revela que la mayoría de los sistemas disponibles carecen de suficientes salvaguardias contra la desinformación, incluso cuando se pueden implementar medidas preventivas. Los desarrolladores de estas herramientas parecen no tener conocimiento de los riesgos asociados con las nuevas tecnologías.

Estos riesgos van más allá de la desinformación y abarcan preocupaciones de privacidad y el refuerzo de sesgos existentes basados en género, etnia u otros factores. Según la información actual, la IA tiene el potencial de perpetuar estereotipos y tener un impacto negativo en la sociedad. Existen soluciones y posibilidades para reducir estos riesgos en cada uno de estos problemas. Sin embargo, es crucial que todos sean conscientes y reconozcan su importancia e implementarlos diligentemente. Los legisladores han tomado medidas, siendo el Parlamento Europeo el primero en aprobar una ley relacionada con la IA en el mundo. Esta ley fue diseñada para abordar un problema global que no se puede resolver de manera efectiva a nivel estatal individual. Sin embargo, a pesar de las buenas intenciones, parece que la ley tiene una efectividad limitada para prevenir acciones maliciosas. Es esencial que todos ejerzan la atención y la precaución para evitar demonizar una innovación que tiene el potencial de salvar vidas y mejorar la salud en general. Esta historia fue traducida de Univadis Italy utilizando varias herramientas editoriales, incluida la IA, como parte del proceso de publicación. Los editores humanos revisaron el contenido antes de su publicación.