Многие руководители медицинских учреждений с осторожностью относятся к тому, что больницы и системы здравоохранения все активнее внедряют новые технологии искусственного интеллекта, такие как генеративный ИИ и большие языковые модели, для автоматизации утомительных задач. Они опасаются, что эти инструменты могут предоставлять пациентам неточную информацию или непреднамеренно причинять вред. Майкл Даулинг, генеральный директор компании Northwell Health, признает потенциал искусственного интеллекта для повышения качества оказания медицинской помощи, но при этом выражает опасения по поводу будущего, в котором машины могут превзойти человеческий интеллект. В недавнем интервью Politico он подчеркнул, что необходимо проявлять бдительность, чтобы не стать слишком зависимым от передовых технологий, не понимая в полной мере их возможностей.

Сунил Дадлани( Sunil Dadlani), исполнительный вице- президент и главный специалист по информатизации и цифровой трансформации Atlantic Health System, также признает перспективность преобразования здравоохранения с помощью таких инструментов, как ChatGPT, но указывает на их недостатки, в том числе отсутствие данных в реальном времени. Лаура Смит( Laura Smith), ИТ- директор UnityPoint Health, подчеркивает возможность нежелательных последствий, если данные, используемые для обучения этих инструментов, будут необъективными, неполными или неточными. Аналогичным образом, директор по здравоохранению Google Карен ДеСальво, доктор медицинских наук, признает огромный потенциал ИИ в здравоохранении, но подчеркивает важность работы над проблемами, чтобы обеспечить надлежащие ограничения, фактические данные, последовательность и соответствие моделям с точки зрения этики и справедливости.