Brief news summary

Недавнее исследование в Nature Medicine показало, что модели искусственного интеллекта, основанные на машинном обучении и используемые в медицинской сфере, проявляют предубеждения, аналогичные человеческим предубеждениям. Хотя эти модели обладают высокой эффективностью в предсказании расы и пола, они могут быть менее эффективными в диагностике заболеваний. Это вызывает опасения относительно все возрастающего использования искусственного интеллекта в области медицинской визуализации. Предубеждения в искусственном интеллекте обусловлены различными факторами, включая количество и качество данных для обучения, структуру данных и человеческие предубеждения. Чтобы решить эту проблему, регулярная оценка и аудит моделей искусственного интеллекта являются необходимыми для снижения предубеждений. Исследование показало, что, хотя общая производительность моделей искусственного интеллекта была удовлетворительной, наблюдались различия в точности предсказания в зависимости от пола и расы. Исследование рекомендует внедрение специфических техник для снижения предубеждений и подчеркивает важность оценки моделей с использованием пациентов, подобных тем, на которых они были обучены. Для достижения точных результатов в разных демографических группах больницы, использующие модели искусственного интеллекта, должны тщательно оценивать алгоритмы с использованием собственных данных о пациентах, особенно при использовании внешних данных.