Meta, matično podjetje Facebooka in Instagrama, je znova pod drobnogledom zaradi svojega ravnanja z vsebinami, ustvarjenimi z umetno inteligenco na svojih platformah. Neodvisni nadzorni svet podjetja je močno priporočil, naj Meta oblikuje celovito in namensko politiko, ki bo posebej obravnavala vsebine povezane z umetno inteligenco. To je sledilo velikemu incidentu, v katerem je virusno zaokrožil lažen video, ustvarjen z umetno inteligenco, ki prikazuje poškodovane stavbe v Haifi med napovedanim konfliktom med Izraelom in Iranom leta 2025, kar je zavedlo gledalce. Video je imel več kot 700. 000 ogledov, preden je posegel nadzorni svet. Svet je kritiziral Meta zaradi neuporabe jasne in opazne oznake, ki bi uporabnike obvestila o lažni naravi videa. Poleg tega podjetje ni zadostno omejilo ali odstranilo zavajajoče vsebine, kljub prijavam uporabnikov in priznavanju njene neresničnosti. Uradna odločitev nadzornega sveta je razkrila pomembne vrzeli v trenutnih politikah Meta glede vsebin, ustvarjenih z umetno inteligenco, in poudarila, da ta incident odraža globalni izziv: hitro širjenje zavajajočih medijev, ki jih proizvede umetna inteligenca, in lahko zavajajo milijone ter povzročijo nemire. Napredek na področju umetne inteligence omogoča ustvarjanje zelo realistično videti, a popolnoma izmišljenih slik in videov, kar predstavlja ključno grožnjo integriteti informacij na družbenih omrežjih, kjer slike in videoposnetki pogosto vplivajo na javno mnenje hitro in široko. Kot ena največjih platform na svetu ima Meta ključno vlogo pri širjenju informacij in nosi pomembno odgovornost, da ustrezno označi, naznači ali odstrani vsebine, ustvarjene z umetno inteligenco, s čimer bi omejili širjenje dezinformacij. Incident razkriva, da obstoječe ukrepe ni dovolj, in poudarja nujnost posodobitve protokolov in orodij, namenjenih posebnemu izzivu umetne inteligence.

Nadzorni svet priporoča, naj Meta vzpostavi namensko politiko, ki bo jasno opredeljevala vsebine, ustvarjene z umetno inteligenco, ter določala ukrepe ob njihovi identifikaciji. Ta politika naj zahteva razkritje, oznake ali opozorilne oznake, okrepijo nadzor nad vsebino, izboljšajo tehnologije za njeno zaznavanje ter vzdržujejo transparentno komunikacijo o tveganjih manipulacij z AI. Razvoj takšne politike je ključen, ne le za ohranitev zaupanja uporabnikov, temveč tudi za boj proti širjenju širših družbenih težav zaradi dezinformacij. Lažne vsebine, ustvarjene z umetno inteligenco, lahko poglabljajo geopolitične napetosti, spodbujajo dezinformacijske kampanje in škodujejo demokratičnim procesom s širjenjem zanesljivo zgledajočih lažnih zgodb. Kot odgovor na to je Meta priznal izzive in napovedal preučitev ter morebitno revizijo svojih politik glede vsebin, da bi bolje ukrepali proti vsebinam, ustvarjenim z umetno inteligenco, ter okrepili ukrepe proti dezinformacijam. Incident z videom iz Haife je ključen primer, ki ponazarja, kako hitro se lahko širijo dezinformacije, ki jih proizvaja umetna inteligenca. Poudarja potrebo po tem, da podjetja družbenih omrežij ostanejo budna in nenehno posodabljajo svoje politike ter tehnologije, saj se digitalni izzivi nenehno razvijajo. Ko se vloga umetne inteligence pri ustvarjanju vsebin povečuje, imajo platforme, kot je Meta, vedno pomembnejšo odgovornost za upravljanje in zmanjševanje tveganj. Razvoj in uvedba jasnih, učinkovitih politik glede vsebin, ki jih ustvarja umetna inteligenca, je ključen korak k zagotavljanju točnosti in zanesljivosti informacij na družbenih omrežjih ter zaščiti javnosti pred zavajanjem v digitalni dobi.