Meta, spółka macierzysta Facebooka i Instagrama, ponownie znajduje się pod lupą w związku z metodami zarządzania treściami generowanymi przez sztuczną inteligencję na jej platformach. Niezależna Rada Nadzorcza firmy gorąco zaleciła Meta opracowanie kompleksowej, dedykowanej polityki, która będzie w szczególności adresować treści związane z AI. To po dużym incydencie, gdy fałszywe, wygenerowane przez AI nagranie przedstawiające zniszczone budynki w Hajfie podczas przewidywanego konfliktu Izrael-Iran w 2025 roku, rozprzestrzeniło się szeroko, wprowadzając odbiorców w błąd. Film ten zdobył ponad 700 000 wyświetleń, zanim Rada Nadzorcza wkroczyła do akcji. Rada skrytykowała Meta za brak wyraźnej, widocznej etykiety ostrzegawczej na filmie, która mogłaby ostrzec użytkowników o jego wymyślonej naturze. Ponadto, Meta nie wystarczająco ograniczyła ani nie usunęła mylącej treści, pomimo zgłoszeń od użytkowników i uznania jej za fałszywą. Formalna decyzja Rady Nadzorczej podkreśliła poważne braki w obowiązujących politykach dotyczących treści generowanych przez AI i zaakcentowała, że incydent ten odzwierciedla globalne wyzwanie: szybkie rozprzestrzenianie się mylących mediów tworzonych przez AI, które mogą oszukać miliony i wywołać niepokój społeczny. Rozwój technologii AI umożliwia tworzenie bardzo realistycznych, ale całkowicie sfabrykowanych obrazów i filmów, co stanowi poważne zagrożenie dla wiarygodności informacji w mediach społecznościowych, gdzie wizualizacje często wpływają na opinię publiczną szybko i na szeroką skalę. Jako jedna z największych platform na świecie, Meta odgrywa kluczową rolę w rozpowszechnianiu informacji i ponosi istotną odpowiedzialność za odpowiednie oznaczanie, etykietowanie lub usuwanie treści generowanych przez AI, aby ograniczyć dezinformację. Incydent ten ujawnia, że obecne środki są niewystarczające, co podkreśla pilną potrzebę aktualizacji protokołów i narzędzi dostosowanych do specyficznych wyzwań związanych z AI.

Rada Nadzorcza zaleca, aby Meta ustanowiła dedykowane ramy polityki jasno definiujące treści generowane przez AI oraz określające działania podjęte po ich identyfikacji. Polityka ta powinna wymagać ujawniania lub stosowania etykiet ostrzegawczych, wzmocnienia moderacji treści, rozbudowy technologii wykrywania oraz przejrzystej komunikacji na temat ryzyka manipulacji AI. Tworzenie takiej polityki jest niezbędne nie tylko dla zachowania zaufania użytkowników, ale także dla zwalczania szerszych problemów związanych z dezinformacją w społeczeństwie. Fałszywe treści AI mogą potęgować napięcia geopolityczne, napędzać kampanie dezinformacyjne i osłabiać demokratyczne procesy poprzez szerzenie fałszywych narracji wyglądających wiarygodnie. W odpowiedzi Meta przyjęła do wiadomości te wyzwania i zapowiedziała przegląd oraz ewentualną rewizję swoich polityk treści, aby lepiej radzić sobie z mediami generowanymi przez AI i wzmocnić zabezpieczenia przed dezinformacją. Incydent z filmem w Hajfie stanowi kluczową lekcję pokazującą, jak szybko może rozprzestrzenić się w sieci dezinformacja napędzana AI. Podkreśla konieczność, by firmy z branży mediów społecznościowych pozostawały czujne i stale aktualizowały swoje polityki oraz technologie wobec zmieniających się zagrożeń cyfrowych. W miarę rozszerzania roli AI w tworzeniu treści, platformy takie jak Meta mają coraz większą odpowiedzialność za zarządzanie i łagodzenie powiązanych z tym ryzyk. Opracowywanie i wdrażanie jasnych, skutecznych polityk dotyczących treści generowanych przez AI to kluczowy krok w celu ochrony dokładności i wiarygodności informacji w mediach społecznościowych oraz w celu zabezpieczenia społeczeństwa przed oszustwami w cyfrowym świecie.