Muchos responsables sanitarios se muestran cautelosos ante la creciente adopción en hospitales y sistemas de salud de tecnologías de IA emergentes como la IA generativa y los grandes modelos lingüísticos para automatizar tareas tediosas. Les preocupa que estas herramientas puedan proporcionar a los pacientes información inexacta o causarles daños sin querer. Michael Dowling, consejero delegado de Northwell Health, reconoce el potencial de la inteligencia artificial para mejorar la prestación de asistencia sanitaria, pero también expresa su preocupación por un futuro en el que las máquinas podrían superar la inteligencia humana. En una entrevista reciente con Politico, subrayó la necesidad de vigilar para no depender excesivamente de una tecnología muy avanzada sin comprender plenamente sus capacidades. Sunil Dadlani, vicepresidente ejecutivo y director de información y transformación digital de Atlantic Health System, también reconoce la promesa de transformar la asistencia sanitaria con herramientas como ChatGPT, pero señala sus limitaciones, entre ellas la falta de datos en tiempo real.

Laura Smith, CIO de UnityPoint Health, destaca las posibles consecuencias no deseadas si los datos utilizados para entrenar estas herramientas son sesgados, incompletos o inexactos. Del mismo modo, la Dra. Karen DeSalvo, Directora de Salud de Google, reconoce el enorme potencial de la IA en la atención sanitaria, pero subraya la importancia de superar los retos para garantizar que los modelos estén adecuadamente limitados, sean objetivos, coherentes y se ajusten a consideraciones éticas y de equidad.