При выборе нажатия на кнопку "Зарегистрироваться", вы подтверждаете и соглашаетесь с нашими Правилами использования и Политикой конфиденциальности. У вас есть возможность отказаться от подписки в любое время. Оставайтесь в курсе ваших предпочитаемых тем через персонализированную ленту, пока вы находитесь в движении. Скачайте наше приложение. Присоединяйтесь к нам, чтобы получать ежедневные обновления о последних новостях в сфере рынков, технологий и бизнеса. Получите предварительный просмотр, прочитав нашу анонс. Недавние крупные уходы из OpenAI вызвали вопросы о будущем компании и планировании Сэмом Альтманом замещения этих должностей новыми сотрудниками. Однако это не является позитивным развитием для тех, кто обеспокоен отрицательными последствиями искусственного интеллекта. Во вторник сооснователь и главный ученый OpenAI Илья Сутскевер объявил о своем уходе из OpenAI, заявив, что для него было честью и привилегией работать рядом с Альтманом и командой. Сутскевер выразил уверенность в способности OpenAI развивать безопасный и полезный искусственный общий интеллект (AGI). Эта статья доступна исключительно абонентам Business Insider.

Станьте абонентом, чтобы получить полную историю. Еще одним значительным уходом стал уход Яна Лейке, еще одного высокопоставленного сотрудника OpenAI. Лейке подтвердил свое увольнение из OpenAI кратким заявлением: "Я подал в отставку". Лейке и Сутскевер руководили командой по супервыравниванию в OpenAI, которая испытала несколько других увольнений за последние несколько месяцев. OpenAI подчеркнула необходимость научных и технических прорывов для обеспечения контроля над ИИ-системами, превосходящими человеческую интеллектуальность, в посте на своем веб-сайте от 5 июля 2023 года. Для решения этой проблемы в течение четырех лет они создали новую команду совместного руководства Сутскевера и Лейке, уделяя значительное количество вычислительных ресурсов этому усилию. Строиттельно отметить, что их работа направлена на обеспечение согласованности сверхинтеллектуальных ИИ-систем с человеческими намерениями, как признал OpenAI в своем посте от июля 2023 года. "На данный момент у нас нет решения для направления и контроля потенциально сверхинтеллектуального ИИ, чтобы предотвратить его отклонение от наших намерений. Наши текущие техники сопоставления ИИ, такие как обучение с подкреплением от обратной связи человека, основаны на человеческом сопровождении, что не масштабируется на сверхинтеллектуальный ИИ. Нам нужны новые научные и технические прорывы. " Лейке, ранее работавший в Google DeepMind, выразил сильную решимость защитить человечество от рисков, создаваемых сверхинтеллектуальным ИИ, в эпизоде подкаста "80 000 часов" в августе 2023 года. На своей платформе Substack Лейке изложил потенциальные решения проблемы согласования - когда ИИ-системы действуют вопреки человеческим намерениям, и необходимые шаги для ее решения. "Вероятно, полное решение проблемы согласования находится в области проблем, которые может решить человек, но также может быть за пределами нашего достигаемого. Вместо того, чтобы стремиться к амбициозной цели, которую мы, возможно, не сможем достичь, мы можем преследовать менее амбициозную цель - минимально рабочий продукт согласования (MVP), создавая ИИ-систему, достаточно согласованную и ускоряющую исследования согласования для более передовых ИИ-систем. " Сотрудники Business Insider обратились к Сутскеверу, Лейке и представителям OpenAI для комментариев вне рабочего времени, но они не ответили незамедлительно.