Впродовж років команди рецензентів Meta оцінювали потенційні ризики при запуску нових функцій на Instagram, WhatsApp і Facebook, аналізуючи такі проблеми, як загроза приватності користувачів, шкода для неповнолітніх або поширення оманливої або токсичної інформації. Ці перевірки приватності та цілісності переважно проводилися людськими оцінювачами. Однак внутрішні документи, отримані NPR, показують, що Meta планує скоро автоматизувати до 90% цих оцінок ризиків. Це означає, що критичні оновлення алгоритмів, нові функції безпеки та зміни у способах поширення контенту здебільшого будуть затверджуватися штучним інтелектом без звичайного людського контролю, який враховує непередбачені наслідки або неправомірне використання. У Meta цю зміну вважають вигідною для розробників продуктів, оскільки вона прискорює випуск оновлень і функцій. Однак діючі та колишні працівники побоюються, що автоматизація може призвести до недосконалого оцінювання ризиків, потенційно спричиняючи реальні шкоди. Колишній керівник Meta висловив занепокоєння, що швидші запуски з менш суворою перевіркою збільшують ймовірність негативних наслідків, оскільки менше проблем буде виявлено заздалегідь. Meta заявила, що інвестувала мільярди доларів у захист приватності користувачів і що нові зміни у процесі оцінки ризиків спрямовані на спрощення ухвалення рішень при збереженні людського досвіду для нових або складних питань. Компанія стверджує, що автоматизація стосуватиметься лише «низькоризикових» рішень. Однак внутрішні документи свідчать, що автоматизація може поширюватися на чутливі сфери, такі як безпека ШІ, ризики для молоді та цілісність платформи, яка включає насильницький контент і дезінформацію. Новий процес передбачає, що продуктові команди заповнюють анкету для отримання «миттєвого рішення» від ШІ, у якому викладаються ризики та потрібні заходи з їхньої мінімізації. Раніше оцінювачі ризиків затверджували оновлення продуктів перед їх випуском; тепер інженери здебільшого самі оцінюють ризики, якщо не запитують людське посередництво. Ця зміна надає можливість інженерам і продуктовим командам — які часто не є експертами з приватності — приймати рішення, що викликає побоювання щодо якості таких оцінок.

Звісно, Звіка Кріхер, колишній директор з відповідальних інновацій Meta, попередив, що основну увагу компанії зосереджено на швидкості запусків, а не на безпеці, і що самостійна оцінка ризиків може стати простою формальністю, без врахування важливих проблем. Він зазначив, що можливе впровадження автоматизації, але попередив, що надмірне покладанняся на ШІ може погіршити якість перевірок. Meta зменшила занепокоєння, наголошуючи, що вона контролює рішення ШІ у проектах без людського втручання. Її європейські підрозділи, які підпорядковані жорстким регуляціям, зокрема Цифровому акту про послуги, зберігатимуть людський контроль із головного офісу в Ірландії. Деякі зміни співпадають із завершенням програми фактчекінгу та послабленням політик проти мови ненависті, що свідчить про ширшу стратегію компанії щодо швидших оновлень і меншої кількості обмежень контенту — розмивання давніх бар’єрів, спрямованих на запобігання зловживанням платформою. Цей підхід узгоджується з правоохоронною лінією генерального директора Марка Цукерберга, який прагне консолідуватися з політичними фігурами, такими як колишній президент Трамп, чию перемогу він назвав «культурним переломним моментом». Стримуючий фактор у прагненні автоматизації також пов’язаний із довгостроковою стратегією Meta використовувати ШІ для прискорення операцій у конкуренції з TikTok, OpenAI та іншими. Meta нещодавно збільшила використання ШІ для контролю за контентом, застосовуючи мовні моделі, що перевершують людських модераторів у певних сферах політик. Це дозволяє людям-ревізорам зосередитися на більш складних випадках. Колишня експертка з публічної політики Facebook Кетті Харбат підкреслює важливість застосування ШІ для підвищення швидкості та ефективності, але наголошує на необхідності людського контролю. З іншого боку, ще один колишній співробітник Meta сумнівається, чи доцільно прискорювати оцінки ризиків, оскільки нові продукти проходять жорстку перевірку, під час якої часто виявляють недорозглянуті проблеми. Мішель Проці, головний директор з приватності продуктів Meta, описав цю зміну як стимул для продуктових команд і розвиток управління ризиками, що сприяє спрощенню ухвалення рішень. Впровадження автоматизації прискорювалося у квітні й травні 2024 року. Однак деякі інсайдери критикують таку характеристику, наголошуючи, що виключення людської оцінки з ризиків позбавляє критичного людського погляду на потенційні шкоди і вважають цей крок «безвідповідальним» з огляду на місію Meta. Підсумовуючи, Meta переходить від людського ведення до переважно ШІ-орієнтованої оцінки ризиків для змін у платформі, прагнучи пришвидшити інновації, одночасно викликаючи серйозні внутрішні занепокоєння щодо зниження контролю, потенційних загроз і здатності ШІ справлятися з складними етичними та безпековими питаннями.