Команда по безопасности OpenAI почувствовала давление торопиться с тестированием безопасности своей новой технологии искусственного интеллекта GPT-4 Omni, чтобы соответствовать установленному руководством компании сроку запуска в мае. Этот инцидент отражает изменяющуюся культуру в OpenAI, где коммерческие интересы приоритетны перед общественной безопасностью, что противоречит первоначальным идеалам компании как некоммерческой организации. Этот инцидент также вызывает опасения относительно полагания федерального правительства на саморегулирование технологических компаний для защиты от рисков, связанных с искусственным интеллектом. Некоторые бывшие сотрудники критикуют протоколы безопасности OpenAI как спешные и недостаточные.

Несмотря на это, OpenAI подчеркивает, что провели обширные внутренние и внешние тесты для обеспечения соответствия безопасности. Инциатива компании по готовности направлена на изучение катастрофических рисков, возникающих от искусственного интеллекта, и применение количественной, основанной на доказательствах работы. OpenAI недавно создала две команды по безопасности, включая одну, сосредоточенную на предотвращении существенных рисков от передовых систем искусственного интеллекта.