Можно ли ожидать, что частные компании, стоящие во главе революционной новой технологии, будут уделять приоритет как своим акционерам, так и более широкому миру?Когда мы присоединились к совету директоров OpenAI – Таша в 2018 году и Хелен в 2021 году – мы были осторожно оптимистичны по поводу инновационного подхода компании к саморегулированию в качестве потенциальной модели ответственного развития искусственного интеллекта. Однако, основываясь на нашем опыте, мы пришли к выводу, что саморегулирование не может постоянно выдерживать давление прибыльных стимулов. Учитывая значительный потенциал искусственного интеллекта для положительного и отрицательного влияния, мы не можем полагать, что эти стимулы всегда будут соответствовать общественному благу. Для того, чтобы прогресс искусственного интеллекта принес пользу всему обществу, необходимо, чтобы правительства оперативно установили эффективные регулирующие рамки. OpenAI казалась компанией, способной успешно управлять своей деятельностью, обеспечивая безопасное и этичное развитие передовых систем искусственного интеллекта.

Изначально созданная в качестве некоммерческой организации с похвальной миссией, заключающейся в том, чтобы обеспечить пользу от искусственного общего интеллекта – систем, превосходящих человеческий интеллект – для всего человечества, OpenAI впоследствии создала дочернюю коммерческую организацию для привлечения необходимого капитала, сохраняя при этом контроль через некоммерческую организацию. Эта уникальная структура нацеливалась на защиту приверженности компании своей первоначальной миссии, и совет директоров был наделен задачей поддерживать эту цель. Хотя это было беспрецедентным, казалось, что это достойный эксперимент. К сожалению, он оказался неудачным.