Meta, compania-madre a Facebook și Instagram, este din nou sub incidență pentru modul în care gestionează conținutul generat de AI pe platformele sale. Consiliul independent de supraveghere al companiei a recomandat cu fermitate ca Meta să dezvolte o politică cuprinzătoare și dedicată, care să abordeze în mod specific conținutul legat de AI. Aceasta vine după un incident major în care un videoclip fals, generat de AI, care prezenta clădiri avariate în Haifa în timpul unui conflict Israel-Iran prevăzut pentru 2025, a devenit viral, inducând în eroare spectatori. Videoclipul a adunat peste 700. 000 de vizualizări înainte ca Consiliul de Supraveghere să intervină. Consiliul a criticat Meta pentru că nu a aplicat un avertisment clar și vizibil asupra videoclipului, ceea ce ar fi putut alerta utilizatorii asupra naturii sale false. În plus, Meta nu a reușit să restricționeze sau să elimine în mod adecvat conținutul înșelător, chiar și după ce utilizatorii l-au semnalat și și-au dat seama de falsitatea lui. Decizia formală a Consiliului de Supraveghere a evidențiat lacune semnificative în politicile actuale ale Meta referitoare la conținutul generat de AI și a subliniat că incidentul reflectă o provocare globală: răspândirea rapidă a media înșelătoare create de AI, care pot înșela milioane de oameni și pot incita la tulburări. Dezvoltarea tehnologiei AI permite crearea de imagini și videoclipuri extrem de realiste, dar total fabricate, reprezentând o amenințare critică pentru integritatea informației pe rețelele sociale, unde vizualurile influențează adesea opinia publică rapid și pe scară largă. Fiind una dintre cele mai mari platforme la nivel global, Meta joacă un rol esențial în disseminarea informației și poartă o responsabilitate semnificativă de a semnala, eticheta sau elimina corespunzător conținutul generat de AI pentru a combate dezinformarea. Incidentul dezvăluie faptul că măsurile existente sunt insuficiente, subliniind necesitatea urgentă a unor protocoale și instrumente actualizate, adaptate la provocările specifice AI.

Consiliul de Supraveghere recomandă ca Meta să stabilească un cadru politică dedicat, care să definească clar conținutul generat de AI și să specifice acțiuni privind identificarea acestuia. Această politică ar trebui să obligatorie divulgarea sau etichetarea avertismentelor, să întărească moderarea conținutului, să îmbunătățească tehnologiile de detectare și să mențină o comunicare transparentă cu privire la riscurile manipularii AI. Dezvoltarea și implementarea unei astfel de politici este esențială nu doar pentru a menține încrederea utilizatorilor, ci și pentru a combate problemele mai largi de dezinformare in societate. Conținutul fals creat de AI poate intensifica tensiunile geopolitice, alimenta campanii de dezinformare și submina procesele democratice prin răspândirea unor narațiuni false, credibile. În răspuns, Meta a recunoscut aceste provocări și a indicat planuri de a revizui și, eventual, de a modifica politicile sale de conținut pentru a aborda mai eficient media generate de AI și a întări mecanismele de protecție împotriva dezinformării. Incidentul videoclipului din Haifa servește drept studiu de caz important, ilustrând cât de rapid se pot răspândi informațiile false generate de AI online. El subliniază necesitatea ca companiile de social media să rămână vigilente și să-și actualizeze continuu politicile și tehnologiile în fața amenințărilor digitale în continuă evoluție. Pe măsură ce rolul AI în crearea de conținut crește, platforme precum Meta au o responsabilitate din ce în ce mai mare să gestioneze și să diminueze riscurile asociate. Dezvoltarea și implementarea unor politici clare și eficiente pentru conținutul generat de AI reprezintă un pas critic pentru protejarea acurateței și fiabilității informațiilor de pe rețelele sociale și pentru apărarea publicului împotriva înșelăciunii în era digitală.