Мета, матичната компанија на Фејсбук и Инстаграм, повторно е под внимателност поради начинот на кој ги управува со содржини генерирани од вештачка интелигенција на своите платформи. Независниот Оддел за надзор на компанијата силно го препорача развојот на сеопфатна, посебна политика која ќе се посвети исклучиво на содржини поврзани со вештачка интелигенција. Ова следи по голем инцидент кога фалсификуван видео со вештачка интелигенција кое го прикажува оштетените згради во Хафа за време на очекуваниот конфликт меѓу Израел и Иран во 2025 година стана вирално, збунувајќи ги гледачите. Видео-то собра повеќе од 700. 000 прегледи пред да интервенира Одделот за надзор. Одделот ја критикуваше Мета што не постави јасна, видлива предупредувачка ознака на видеото, што можеше да ги предупреди корисниците за неговата измислена природа. Исто така, Мета не успеа соодветно да го ограничува или отстранува конфузното съдржание, и покрај пријавите од корисниците и признавањето на неговата лажност. Едукативната одлука на Одделот за надзор ги истакна значајните пропусти во сегашните политики на Мета за содржини генерирани од вештачка интелигенција и нагласи дека овој инцидент ја отражува глобалната предизвикувачка состојба: брзото ширење на дезинформации создадени од ИИ што можат да измамат милиони и да предизвикаат немири. Напредокот на технологијата на вештачката интелигенција овозможува создавање на високо реалистични и целосно измислени слики и видеа, што претставува критична закана за интегритетот на информациите на социјалните мрежи, каде визуелните содржини често влијаат брзо и широко врз јавноста. како една од најголемите платформи во светот, Мета одигра клучна улога во дистрибуцијата на информации и носи значајна одговорност да означи, етикетира или отстрани содржини создадени од вештачка интелигенција за да спречи дезинформации. Инцидентот открива дека сегашните мерки се недоволни, нагласувајќи итната потреба од обновени протоколи и алатки прилагодени на предизвиците на вештачката интелигенција.

Одделот за надзор препорачува Мета да воспостави посебен рамковен пристап кој јасно ќе ги дефинира содржините создадени од ИИ и ќе укаже на конкретни акции при нивната идентификација. Оваа политика треба да бара јасно откривање или предупредувачки ознаки, зајакнување на контрола на содржините, подобрување на технологиите за детекција и транспарентна комуникација за ризиците од манипулација со ИИ. Развојот на таква политика е од суштинско значење not само за одржување на довербата на корисниците, туку и за борба против пошироките социјални проблеми со дезинформации. Лажната содржина создадена од ИИ може да ги влоши геополитичките напнатијања, да поттикне кампањи за дезинформации и да ја поткопа демократската работа преку ширење на лажни приказни кои изгледаат веродостојно. Во одговор, Мета признала овие предизвици и најавила преглед и потенцијално ревидирање на своите политики за содржини за подобро да се справи со медиумите создадени од ИИ и да зајакне мерките против дезинформации. Инцидентот со видеото од Хафа служи како клучен пример за тоа колку брзо информациите создадени од ИИ можат да се шират онлајн. Истовремено, тој нагласува потребата со социјалните мрежи постојано да се будат, да ги ажурираат своите политики и технологии во време кога дигиталните закани се менуваат. Како што улогата на ИИ во креирањето содржини се зголемува, платформите како Мета имаат се поголема одговорност да управуваат со ризиците и да ги намалуваат. Развојот и примена на јасни и ефективни политики за содржини создадени од ИИ е клучен чекор за заштита на точноста и веродостојноста на информациите на социјалните мрежи и за заштита на јавноста од измами во дигиталната ера.