Meta, родната компания на Facebook и Instagram, отново е под наблюдение за начина, по който се обработва съдържание, генерирано от изкуствен интелект, във първите си платформи. Независимият Надзорен съвет на компанията силно препоръчва Meta да разработи цялостна, специализирана политика, която ясно да се занимава с съдържание, свързано с изкуствен интелект. Това следва след голям инцидент, при който фалшиво видео, създадено от AI, показващо разрушени сгради в Хайфа по време на предполагаем конфликт между Израел и Иран през 2025 г. , стана вирусно и заблуди зрителите. Видеото събра над 700 000 гледания, преди Надзорният съвет да се намеси. Съветът критикува Meta за това, че не е поставила ясно и видимо предупреждение към видеото, което би могло да предупреди потребителите за неговата фалшивост. Освен това, Meta не е достатъчно ограничила или премахнала заблуждаващото съдържание, въпреки отчета на потребителите и разпознаването на неговата лъжлива природа. Финалното решение на Надзорния съвет подчерта значителните пропуски в сегашните политики за съдържание, генерирано от AI, като посочи, че инцидентът отразява глобален проблем: бързото разпространение на заблудително медийно съдържание, създадено от изкуствен интелект, което може да заблуди милиони и да провокира безредици. Напредъкът в технологията на AI позволява създаването на много реалистични, но изцяло фиктивни изображения и видеа, което представлява сериозна заплаха за информационната цялост в социалните мрежи, където визуалното съдържание често влияе бързо и широко върху общественото мнение. Като една от най-големите платформи в света, Meta играе важна роля в разпространението на информация и носи сериозна отговорност да отбелязва, етикетира или премахва съдържание, създадено от AI, за да се бори с дезинформацията. Инцидентът разкрива, че съществуващите мерки са недостатъчни, като подчертава спешната необходимост от актуализиране на протоколи и инструменти, специално предназначени за предизвикателствата на AI.

Надзорният съвет препоръчва на Meta да създаде специална рамка на политика, която ясно да дефинира съдържанието, създадено от AI, и да определя действия при неговото откриване. Тази политика трябва да включва задължително разкриване или предупредителни етикети, да засили модерирането на съдържанието, да подобри технологиите за откриване и да поддържа прозрачна комуникация относно рисковете от манипулация чрез AI. Развитието на ясна и ефективна политика е от съществено значение не само за запазване на доверието на потребителите, но и за борба срещу по-общите обществени проблеми с дезинформацията. Фалшивото съдържание, създадено с помощта на AI, може да засили геополитическите напрежения, да подкрепи кампании за разпространение на информация и да подкопае демократичните процеси чрез разпространение на правдоподобни, но измамни истории. В отговор, Meta призна тези предизвикателства и е заявил планове да прегледа и евентуално ревизира настоящите си политики за съдържание, за да се справи по-добре с медийното съдържание, создано от AI, и да засили мерките срещу дезинформацията. Инцидентът с видеото в Хайфа служи като ключов пример за това колко бързо може да се разпространи дезинформация, базирана на AI. Той подчертава необходимостта социалните медийни компании да останат бдителни и постоянно да обновяват своите политики и технологии, особено с оглед на развиващите се дигитални заплахи. С разширяване на ролята на AI в създаването на съдържание, платформите като Meta имат все по-важна отговорност да управляват и намаляват свързаните с това рискове. Разработването и прилагането на ясни, ефективни политики за съдържание, създадено от AI, е критичен стъпка за запазване на точността и надеждността на информацията в социалните мрежи и за защита на обществото от заблуди в дигиталната ера.