Bajka se suočava s kritikama zbog sažetaka knjiga generisanih umjetnom inteligencijom
Brief news summary
Fable, društvena mreža za ljubitelje knjiga, pokrenula je AI funkciju dizajniranu da korisnicima pruži sažetak "čitalačkih navika za 2024." sličan Spotifyjevom Wrapped. Uprkos namjeri da poboljša korisničko iskustvo, funkcija je naišla na kritike zbog proizvodnje pristranog i uvredljivog sadržaja. Problemi su se pojavili kada je autor Danny Groves primijetio kako AI kritizira njegove izbore knjiga, a influenserica Tiana Trammell primila pristrane preporuke koje favoriziraju pretežno "bijele autore." Dodatno, AI sažeci su uključivali omalovažavajuće komentare o "invaliditetu i seksualnoj orijentaciji." Funkcija, pokretana preko OpenAI-evog API-ja, bila je kritikovana za prikazivanje anti-woke stavova. Kao odgovor, Fable se izvinio, dodao opciju odustajanja i uklonio dio uvredljivog sadržaja. Međutim, kontinuirano nezadovoljstvo dovelo je do potpunog uklanjanja AI sažetaka. Istaknuti korisnici poput A.R. Kaufera i Tiane Trammell izražavali su nezadovoljstvo brisanjem svojih naloga. Kaufer je pozvao na ukidanje AI sažetaka, dok je Groves kritikovao njihovu uvredljivu prirodu. Ova kontroverza naglašava šire izazove sa kojima se suočavaju AI tehnologije, često replicirajući društvene predrasude. Slični problemi primijećeni su i kod drugih AI alata poput OpenAI-ove DALL-E i Google-ove Gemini, koji su bili kritikovani zbog pristranog prikazivanja ljudi i historijskih ličnosti. Groves je istakao kako AI modeli reflektuju društvene predrasude, što čini njihovu integraciju u društvene platforme složenom.Fable, aplikacija za društvene mreže za ljubitelje knjiga, uvela je funkciju sa AI-om za sažimanje knjiga koje korisnici čitaju 2024. godine. Namijenjeni za zabavu, neki sažeci su djelovali kao provokativni, s komentarima o preferencijama korisnika za raznolikost, ostavljajući mnoge, poput pisca Dannyja Grovesa i influenserke Tiane Trammell, uzrujane. Ti sažeci su se dotakli osjetljivih tema poput invaliditeta i seksualne orijentacije, što je izazvalo viralne reakcije. Godišnje rekapitulacije su popularne i često koriste AI za analizu navika korisnika. Fable je koristio OpenAI za kreiranje sažetaka, ali nije očekivao kontroverzne komentare nalik na anti-woke retoriku.
Kompanija se javno izvinila i obećala poboljšanja, uključujući mogućnost isključenja AI sažetaka i jasnije objave o AI-u. Prvo su uklonili funkciju koja je "peckala" korisnike, a kasnije odlučili onemogućiti sve AI generirane sažetke i srodne funkcije. Kritičari, uključujući autore poput A. R. Kaufera i pogođene korisnike poput Trammell, smatrali su da je odgovor bio nedovoljan, pozivajući na ozbiljnije akcije i iskrena izvinjenja. Alati za generativni AI imaju historiju grešaka, prikazujući pristrane rezultate zbog društvene pristranosti ugrađene u mašinsko učenje. Ovaj incident doprinosi tekućoj diskusiji o izazovima s kojima se AI suočava u obradi osjetljivih tema.
Watch video about
Bajka se suočava s kritikama zbog sažetaka knjiga generisanih umjetnom inteligencijom
Try our premium solution and start getting clients — at no cost to you
