Meta, dříve Facebook, oznámila rozsáhlé rozšíření svých systémů automatizované moderace obsahu poháněných umělou inteligencí, aby zvýšila efektivitu a přesnost na platformách jako Facebook, Instagram a WhatsApp. Využitím pokročilých AI technologií si Meta klade za cíl lépe identifikovat a spravovat škodlivý obsah a vytvářet bezpečnější online komunity pro miliony lidí po celém světě. Tradičně se na úkoly jako odhalování podvodů, grafického obsahu a porušování pravidel podíleli lidscí moderátoři, kteří kontrolovali nahlášený obsah. Nicméně objem denního obsahu je tak velký, že je třeba škálovatelných a rychlejších řešení. Rozšířené nástroje AI budou automaticky detekovat a řešit škodlivý obsah ve velkém měřítku, čímž sníží závislost na manuálním dohledu. Vylepšené systémy AI dokážou provádět jemnější hodnocení obsahu, díky pokrokům ve strojovém učení, zpracování přirozeného jazyka a počítačovém vidění dokážou přesněji rozlišovat škodlivé příspěvky od neškodných. Například AI dokáže identifikovat podvody, které unikají tradičním filtrům, tím, že rozeznává vzory a kontext, a lépe rozpoznat grafický obsah za účelem omezení násilných nebo znepokojivých scén. Vedle moderace Meta spustila také asistenta podpory Meta AI – AI chatbota nabízejícího nepřetržitou automatickou pomoc s běžnými problémy na účtech, jako je obnovení hesla, nastavení soukromí nebo bezpečnost, čímž se zlepšuje uživatelská zkušenost a snižuje čekací doba na lidskou podporu. Investice Meta odráží širší trend odvětví směrem k integraci AI do správy platforem.

Kombinací lidské odbornosti s inteligentní automatizací se společnost snaží udržet vysoké standardy obsahu a zároveň omezit šíření škodlivého obsahu. Systémy AI jsou neustále aktualizovány na základě výzkumu a zpětné vazby uživatelů, aby mohly řešit nové výzvy a hrozby online prostředí. Zdůrazňuje se transparentnost a odpovědnost, a Meta slibuje zveřejňovat podrobné zprávy o výkonu a dopadech AI a provádět audity třetích stran, aby zaručila spravedlivost a přesnost. Lidscí recenzenti budou nadále klíčoví pro řešení složitějších případů a odvolání, čímž se balancuje automatizace a lidský dozor. Toto rozšíření AI přichází v době rostoucího tlaku na platformy, aby bojovaly proti dezinformacím, podvodům a škodlivému obsahu. Využitím nejmodernější AI společně s lidským dohledem se Meta snaží chránit uživatele a podporovat bezpečnější a pozitivnější online prostředí. Stručně řečeno, oznámení Meta představuje zásadní krok vpřed v moderaci obsahu – využívání AI ke zvýšení provozní efektivity a spolehlivější kontrole souladu s komunitními standardy. Asistent podpory Meta AI doplňuje tento krok tím, že nabízí okamžitou pomoc uživatelům a podtrhuje závazek společnosti integrovat AI pro zlepšení bezpečnosti a služeb.