Meta, материнська компанія Facebook та Instagram, знову під пильним контролем через питання обробки контенту, створеного за допомогою штучного інтелекту, на своїх платформах. Незалежна Надзорна рада компанії рішуче рекомендувала Meta розробити комплексну, спеціальну політику, яка чітко регламентує контент, пов’язаний із штучним інтелектом. Це сталося після масштабної інциденту, коли фальшиве відео, створене за допомогою штучного інтелекту, показувало пошкоджені будівлі в Хайфі під час можливого конфлікту між Ізраїлем та Іраном у 2025 році, що швидко поширилось і ввело в оману глядачів. Це відео набрало понад 700 000 переглядів, допоки Надзорна рада втрутилася. Рада критикувала Meta за відсутність чіткої, помітної позначки-попередження на відео, яка могла б попередити користувачів про його сфальсифіковану природу. Крім того, Meta не застосувала належних заходів щодо обмеження або видалення цього обманливого контенту, незважаючи на повідомлення користувачів і визнання його неправдивості. Формальне рішення Надзорної ради підкреслило суттєві прогалини у сучасних політиках компанії щодо AI-контенту та наголосило, що цей випадок відображає глобальну проблему: швидке поширення дезінформації з використанням штучного інтелекту, що може вводити в оману мільйони і спричиняти конфлікти. Розвиток AI-технологій дозволяє створювати надзвичайно реалістичні, але цілком фальшиві зображення та відео, що становить критичну загрозу цілісності інформації в соціальних мережах, де візуальні образи часто швидко і широко впливають на громадську думку. Як одна із найбільших платформ у світі, Meta відіграє важливу роль у поширенні інформації і несе велику відповідальність за правильне маркування, позначення або видалення контенту, створеного за допомогою AI, щоб протидіяти дезінформації. Цей інцидент показує, що нинішні заходи є недостатніми, і наголошує на нагальній потребі оновлення протоколів і інструментів, адаптованих до проблем, пов’язаних із AI.

Надзорна рада рекомендує Meta затвердити окрему політичну рамку, яка чітко визначить, що таке контент, створений штучним інтелектом, і які дії потрібно вживати при його виявленні. Ця політика має передбачати обов’язкову розкриття інформації або попереджуючі позначки, посилювати модерацію контенту, покращувати технології виявлення і підтримувати прозору комунікацію щодо ризиків штучного маніпулювання. Розробка такої політики є ключовою не лише для збереження довіри користувачів, а й для боротьби із ширшими проблемами дезінформації у суспільстві. Хибний контент, створений штучним інтелектом, може посилювати геополітичні напруженості, підживлювати кампанії з дезінформації і підривати демократичні процеси через поширення правдоподібних, але фальшивих наративів. У відповідь Meta визнала ці виклики і планує переглянути та, можливо, змінити свої політики щодо контенту, створеного за допомогою AI, щоб посилити заходи проти поширення дезінформації. Інцидент із відео у Хайфі слугує важливим прикладом того, наскільки швидко поширюється AI-маніпуляція через у мережі. Він підкреслює необхідність постійної пильності соціальних мереж і регулярного оновлення їхніх політик та технологій у контексті змінюваних цифрових загроз. Оскільки роль AI у створенні контенту продовжує зростати, платформи, такі як Meta, несуть усе більш важливу відповідальність за управління і зменшення ризиків, пов’язаних із цим. Розробка та впровадження чітких і ефективних політик щодо контенту, створеного штучним інтелектом, є критично важливими кроками для захисту точності та надійності інформації в соцмережах і для захисту суспільства від обману у цифрову епоху.