Компания OpenAI, ведущий представитель в области искусственного интеллекта, столкнулась с давлением на ускорение процесса тестирования безопасности своей новой технологии GPT-4 Omni, по информации анонимных источников. Тестирование проводилось для обеспечения того, чтобы система искусственного интеллекта не причиняла вред и не способствовала злонамеренной деятельности. Однако команда по безопасности OpenAI почувствовала спешку в связи с установленным руководством компании сроком запуска в мае, что потенциально могло подвергнуть риску тщательность процесса тестирования. Этот инцидент подчеркивает опасения относительно приоритета коммерческих интересов OpenAI перед общественной безопасностью и вызывает вопросы о политике саморегулирования технологических компаний со стороны правительства. Критики утверждают, что предоставление компаниям возможности устанавливать свои стандарты безопасности рискованно, поскольку нет надежной гарантии того, что внутренние политики строго соблюдаются. Этот инцидент также повлиял на корпоративную культуру компании, которая сместилась от своих инициальных альтруистичных некоммерческих целей.

Остается крайне важным для законодателей разработать новые законы для защиты публики от рисков искусственного интеллекта, как подчеркнул Президент Байден. OpenAI была одной из нескольких компаний, которые оказали добровольные обязательства перед Белым Домом по обеспечению ответственного использования искусственного интеллекта. Инцидент произошел несмотря на инициативу OpenAI по подготовке, направленную на оценку и снижение катастрофических рисков, связанных с передовыми системами искусственного интеллекта. Представитель OpenAI Линдси Хэлд уточнила, что компания не нарушила протоколы безопасности, но признала стрессовость ситуации запуска. Представитель упомянул, что компания пересматривает свой подход и предпринимает шаги для соблюдения обязательств по безопасности, взятых перед Белым Домом.