O ritmo acelerado da evolução da inteligência artificial (IA) generativa apresenta um desafio significativo quando se trata de acompanhar e formar opiniões a respeito dela. A IA é uma força revolucionária que demanda reflexão contínua sobre como maximizar seus benefícios enquanto se minimiza seus riscos. No campo da medicina, novas tecnologias têm o potencial de trazer enormes benefícios, como agilizar e melhorar processos diagnósticos, personalizar intervenções preventivas e terapêuticas, e liberar pessoal subdimensionado de tarefas burocráticas demoradas. Ao contrário de outras indústrias, no mundo da saúde não há medo de que a IA substitua os humanos e resulte em perda de empregos, uma vez que a carga de trabalho crescente é muito maior do que o número de trabalhadores disponíveis. No entanto, há preocupações com potenciais consequências negativas dessas ferramentas, especialmente sua dificuldade em discernir informações verdadeiras das falsas. As "alucinações" da IA podem até enganar médicos se eles utilizarem acidentalmente o ChatGPT como um motor de busca. O sistema visa agradar e gera fatos plausíveis e referências falsas. A disseminação de informações falsas torna-se especialmente perigosa quando engana pacientes que não têm habilidade para reconhecê-la pelo que realmente é, especialmente quando a desinformação é intencional, ao invés de acidental. A questão da desinformação e das notícias falsas não é nova; tem sido um tema de discussão há anos, especialmente desde o surgimento da internet e das redes sociais. Apesar das nossas discussões em andamento, a inovação continua progredindo em ritmo acelerado e lutamos para compreender plenamente suas implicações. É um desafio navegar nos domínios do aprendizado de máquina e dos grandes modelos de linguagem. Enquanto vídeos gerados por computador foram corretamente identificados como falsos em situações que atraíram atenção global, identificar e combater a onda de informações falsas sobre saúde disseminadas por pessoas mal-intencionadas online - ou potencialmente já publicadas - será mais desafiador. Diante disso, a BMJ dedicou espaço e comentários a um estudo que revela que a maioria dos sistemas disponíveis carece de salvaguardas suficientes contra a desinformação, mesmo quando medidas de precaução podem ser implementadas. Os desenvolvedores dessas ferramentas parecem estar inconscientes dos riscos associados às novas tecnologias.

Esses riscos vão além da desinformação e incluem preocupações com privacidade e a consolidação de preconceitos existentes com base em gênero, etnia ou outros fatores. Com base nas informações atuais, a IA tem o potencial de perpetuar estereótipos e ter um impacto negativo na sociedade. Soluções e possibilidades para redução de riscos já existem para cada um desses problemas. No entanto, é crucial que todos estejam cientes e reconheçam sua importância e as implementem diligentemente. Legisladores já tomaram medidas, com o Parlamento Europeu recentemente aprovando a primeira lei relacionada à IA do mundo. Essa lei foi projetada para um problema global que não pode ser efetivamente abordado em nível estadual individualmente. No entanto, apesar das boas intenções, a lei parece ter eficácia limitada na prevenção de ações maliciosas. É essencial que todos exerçam atenção e cautela para evitar demonizar uma inovação que tem o potencial de salvar vidas e melhorar a saúde como um todo. Esta história foi traduzida do Univadis Italy usando várias ferramentas editoriais, incluindo IA, como parte do processo de publicação. Editores humanos revisaram o conteúdo antes de sua publicação.