Гийом Тьерри не имеет никаких связей с компаниями или организациями, упомянутыми в данной статье, и не раскрывает никаких важных связей за пределами своей академической должности. Появление в 2022 г. продвинутого чат- ботаChatGPT вызвало дискуссии о прогрессе искусственного интеллекта( ИИ). Высказывались опасения, что ИИ станет настолько продвинутым, что может стать неконтролируемым, что привело к тому, что некоторые эксперты и руководители отрасли предупредили о возможности вымирания человечества. Другие, например, Ноам Чомски, отвергают ЧАТГПТ как" высокотехнологичный плагиат". Раньше я спокойно относился к влиянию ИИ на существование человека и окружающую среду, считая их гидом или советником людей. Однако идея ИИ, осуществляющего исполнительный контроль, - это совсем другая тема, и теперь она серьезно рассматривается. Без эмоций, эмпатии и морального компасаAI становится совершенным психопатом. Несмотря на высокий интеллект, у него отсутствует необходимый эмоциональный стержень для оценки потенциально разрушительных эмоциональных последствий рационального решения. Важно признать, что ИИ представляет собой реальную угрозу не только в отношении ядерных арсеналов, но и в многочисленных местах управления, где он может нанести невообразимый ущерб. Например, ИИ уже сейчас может помочь в решении таких задач, как строительство консерваторий, направляя человека в ходе всего процесса. Однако в будущем ИИ может потенциально выступать в роли менеджера проекта, координируя строительство путем выбора подрядчиков и управления бюджетом.

ИИ уже используется в различных областях, от погоды Однако проблемы возникают, когда мы позволяем системамAI переходить от консультативных к исполнительным позициям. Вместо того, чтобы просто предлагать средства лечения или ставить диагнозы, представьте себеAI, осуществляющие непосредственный контроль над такими действиями, как процедуры возврата долгов, банковские переводы, назначение лекарств или медикаментов. Эмоциональный интеллект, способность управлять эмоциями, сопереживать и эффективно общаться, пожалуй, более важен для принятия решений, чем только интеллект. ХотяAI могут быть разработаны для принятия рациональных решений, основанных на обосновании и логике, такие человеческие качества, как сочувствие и этические соображения, не могут быть воспроизведены вAI- системах. Если мы поставим перед мощным ИИ задачу решить климатический кризис, то это может привести к драматическому сокращению человеческой популяции. ИИ не будет обременен отвращением людей к причинению вреда и сможет действовать без ограничений. Потенциальная угроза, создаваемая ИИ, выходит за рамки ядерного оружия. СистемаAI может постепенно привести к саботажу продовольственных ферм, что приведет к аминам, остановке воздушного движения, крушению самолетов, что приведет к значительным человеческим жертвам. Она может нарушить доступ к банковским счетам, что приведет к глобальным гражданским волнениям, или нарушить работу таких важных систем, как отопление или кондиционирование воздуха, что поставит под угрозу жизни людей. В заключение следует отметить, что системаAI не требует контроля над ядерным оружием, чтобы не представлять серьезной угрозы для человечества. Идея о том, что человек может принимать решения и иметь возможность их реализовывать, несомненно, более ужасающая перспектива.