En mayo, cinco hospitales del servicio de salud metropolitano del sur de Perth recibieron la orden de dejar de utilizar ChatGPT para documentar los historiales médicos de los pacientes. La Asociación de Médicos Australianos, en su presentación al documento de debate del gobierno sobre una Inteligencia Artificial segura y responsable, hizo hincapié en la necesidad de una reglamentación estricta y de transparencia en el sector de la asistencia sanitaria en materia de inteligencia artificial. La asociación subrayó la importancia de proteger a los pacientes y a los profesionales de la salud, así como de generar confianza mediante normas estrictas. La decisión de dejar de utilizar el chatGPT no fue lógica después de que se descubriera que algunos miembros del personal habían estado utilizando el lenguaje con otros fines. El director general del servicio, Paul Forde, declaró en un correo electrónico al personal que la confidencialidad de los pacientes no podía garantizarse con estos sistemas.

La AAM recomendó que las salvaguardias de la IAI incluyeran la intervención humana en las decisiones clínicas, el consentimiento informado de los pacientes para recibir tratamientos o diagnósticos basados en la IAI y la protección de los datos de los pacientes para evitar que aumenten las desigualdades sanitarias. La AAM también sugirió que se tuviera en cuenta la propuesta de Ley de Inteligencia Artificial de la UE y la exigencia de puntos de intervención humana en la toma de decisiones de Canadá para Australia. El presidente de la AAM, el profesor Steve Robson, reconoció la naturaleza evolutiva de la IA y subrayó la necesidad de abordar el vacío normativo en materia de asistencia sanitaria para evitar daños a los pacientes y atentar contra la privacidad. Un estudio de investigación de Google publicado en Nature demostró que el modelo de lenguaje médico afirmado ofrecía respuestas precisas a preguntas médicas comunes consultadas en línea en el 92, 9% de los casos, al igual que los médicos.