Meta, nekadašnji Facebook, najavila je opsežno proširenje svojih sustava za moderaciju sadržaja temeljenih na umjetnoj inteligenciji kako bi povećala učinkovitost i točnost na platformama poput Facebooka, Instagrama i WhatsAppa. Korištenjem naprednih AI tehnologija, Meta želi bolje identificirati i upravljati štetnim sadržajem, stvarajući sigurnije online zajednice za milijune ljudi diljem svijeta. Tradicionalno, ljudski moderatori bili su odgovorni za zadatke poput otkrivanja prijevara, grafičkog sadržaja i kršenja pravila pregledavajući označeni sadržaj. Međutim, velika količina dnevnog sadržaja zahtijeva skalabilna i brža rješenja. Prošireni alati umjetne inteligencije će autonomno prepoznati i riješiti štetne sadržaje u velikim količinama, smanjujući ovisnost o ručnom nadzoru. Ovi poboljšani sustavi umjetne inteligencije obavljaju sofisticirane procjene sadržaja, točnije razlikujući štetne od bezopasnih objava zahvaljujući naprecima u strojnom učenju, obrade prirodnog jezika i računalnom vidu. Na primjer, AI može prepoznati prijevare koje izbjegavaju tradicionalne filtere analizom obrazaca i konteksta, te bolje otkriti grafički sadržaj kako bi spriječio prikazivanje nasilnih ili uznemirujućih slika. Uz moderaciju, Meta je pokrenula Meta AI pomoćnog asistenta — AI chatbot koji nudi automatiziranu pomoć 24/7 za uobičajene probleme na računu poput oporavka lozinke, postavki privatnosti i sigurnosti, čime se poboljšava korisničko iskustvo i smanjuje vrijeme čekanja na ljudsku podršku. Meta ulaganja odražavaju širu industrijsku strategiju prema integraciji umjetne inteligencije u upravljanje platformama.

Kombinirajući ljudsko iskustvo s inteligentnom automatikom, tvrtka želi održavati snažne standarde sadržaja uz istovremeno ograničavanje širenja štetnih sadržaja. Sustavi umjetne inteligencije kontinuirano se ažuriraju na temelju najnovijih istraživanja i povratnih informacija korisnika kako bi se nosili s novim izazovima i rastućim prijetnjama na internetu. Naglašavajući transparentnost i odgovornost, Meta je posvećena objavljivanju detaljnih izvještaja o performansama i utjecaju AI-a te provodi nezavisne revizije kako bi osigurala pravičnost i točnost. Ljudski će i dalje biti ključni za upravljanje složenim slučajevima i žalbama, uzimajući u obzir automatizirane procese. Ova ekstenzija umjetne inteligencije dolazi u vrijeme sve većeg pritiska na platforme da se bore protiv dezinformacija, prijevara i štetnog sadržaja. Kroz primjenu vrhunske AI tehnologije uz nadzor ljudi, Meta želi zaštititi korisnike i promicati sigurnije i pozitivnije online okruženje. Ukratko, najava Meta predstavlja značajan napredak u moderaciji sadržaja — prihvaćanjem AI-a za povećanje učinkovitosti poslovanja i pouzdanije provođenje pravila zajednice. Meta AI pomoćni asistent nadopunjuje ove napore pružajući trenutnu pomoć korisnicima, naglašavajući posvećenost tvrtke integraciji AI-a radi poboljšanja sigurnosti i usluge.