Горави години, тимовите на Meta за прегледи оценуваа потенцијалните ризици секогаш кога се лансираа нови функции на Instagram, WhatsApp и Facebook, оценувајќи загрижености како закани за приватноста на корисниците, штета за малолетните или ширење на заблудливи или токсични содржини. Тие приватноста и ревизиите за интегритет главно ги извршуваа луѓе оценувачи. Меѓутоа, внатрешни документи добиени од NPR откриваат дека Meta наскоро планира автоматизација на до 90% од овие проценки на ризик. Ова значи дека клучните ажурирања на алгоритмите, новите безбедносни функции и промените во споделувањето содржини ќе бидат голема мера одобрени од системи базирани на вештачка интелигенција без обичната проверка од страна на персоналот што ги разгледува непредвидените последици или злоупотребите. Во рамките на Meta, оваа промена се смета за погодна за развивачите на продукти преку забрзување на објавувањето на ажурирањата и функциите. Сепак, сегашните и поранешните вработени се загрижени дека оваа автоматизација може да доведе до недоволна проценка на ризиците, со можни реални последици. Поранешен извршен директор на Meta изрази загриженост дека побрзите лансирања со помалку строга ревизија ја зголемуваат веројатноста за негативни исходи, бидејќи помалку проблеми ќе бидат забележани однапред. Meta изјави дека инвестира милијарди во заштита на приватноста на корисниците и дека новите промени во проценката на ризикот имаат за цел да ја поедностават одлуката додека остануваат соиграчи на човечката експертиза за нови или сложени прашања. Тврдат дека само одлуките со „ниски ризици“ ќе се автоматизираат. Меѓутоа, внатрешните документи сугерираат дека автоматизацијата може да се прошири и на чувствителни области како безбедност на вештачката интелигенција, ризик за младите и генералниот интегритет на платформата, што вклучува насилни содржини и дезинформации. Новата процедура вклучува тимови за производи што пополнуваат прашалник за да добијат „брза одлука“ од системите на вештачка интелигенција, кој го дава ризик-статусот и потребните мерки за намалување. Пред тоа, проценувачите на ризик мораа да ги одобрат ажурирањата пред објавувањето; сега, инженерите по автоматски пат ги проценуваат ризиците, освен ако не побараат човечка рецензија. Оваа промена им дава поголема моќ на инженерите и тимовите за продукти — кои често немаат експертиза за приватност — да носат одлуки, што ги вознемирува за квалитетот на проценките.

Звија Кригер, поранешен директор на одговорни иновации во Meta, предупреди дека тимовите за продукти се оценуваат главно по темпото на лансирање, а не по безбедноста, и дека самостојната проценка може да стане само формално пополнување на кутии, пропуштајќи важни проблеми. Тој призна дека има простор за автоматизација, но ги советува дека претераната зависност од вештачка интелигенција може да ја намали квалитетот на ревизиите. Meta ги омаловажува стравовите, нагласувајќи дека ги ревидира одлуките на АИ за проекти без човечки преглед. Ќе го одржува и човековото надзорство за своите европски операции, кои се регулираат со строги закони како Дигиталниот сервисен акт. Некои промени се случуваат во време кога Meta ја затвора својата програма за фактична проверка и релаксира политиката за говор на омраза, сигнализирајќи за поширока промена во компанијата кон побрзи обновувања и помалку ограничувања во содржините — ослабување на долгогодишните стандарди што ги заштитуваа од злоупотреба на платформата. Оваа стратегија следи напори на извршниот директор Марк Цукерберг да се усогласи со политички фигури како поранешниот претседател Трамп, чии избори Цукерберг ги опиша како „културна точкика“. Преминот кон автоматизација е дел и од долгогодишната стратегија на Meta за користење на вештачка интелигенција за забрзување на операции, во конкуренција со TikTok, OpenAI и други. Meta неодамна ја зголеми употребата на АИ за спроведување на содржинската модерација, користејќи модели за јазик што изостраат човечките капацитети во одредени области на политика. Ова им овозможува на човечките прегледувачи да се фокусираат на сложените случаи. Кети Харбат, поранешен јавен политикиек во Facebook, поддржува користење на АИ за зголемување на брзината и ефикасноста, но нагласува дека е потребна човечка проверка. Од друга страна, друго поранешно лице од Meta се сомнева дали е паметно да се забрза проценката на ризикот, особено што новите производи честопати се предмет на строга ревизија која открива проблеми кои можат да останат незабележани. Мишел Проти, раководител на одделот за приватност за производи во Meta, ја опиша промената како решение што ги дава овластувањата на тимовите за производи и ги олеснува процесите на управување со ризиците. Автоматизацијата беше ускорена околу април и мај 2024. Меѓутоа, некои внатрешни извори ја критикуваат оваа претстава, нагласувајќи дека отстранувањето на човечкиот фактор од проценките на ризикот го подрива важниот човечки поглед на можните штети, а овој чекор го нарекуваат „несоодветен“ во светлината на мисијата на Meta. За сумирање, Meta префрлува од човечки водени на претежно АИ-водени проценки на ризикот за промените во платформата, со цел да го забрза развојот и иновативноста, но со сериозни загрижености дека ова може да го попречи примероците, дека постојат потенцијални штети и дека вештачката интелигенција може да не е доволна за справување со сложените етички и безбедносни прашања.