Uputstvo odjela za obrazovanje o umjetnoj inteligenciji za sprječavanje diskriminacije u školama
Brief news summary
Kancelarija za građanska prava Odjela za obrazovanje izdala je nove smjernice kako bi se suprostavili potencijalnoj diskriminaciji iz upotrebe AI u školama, s fokusom na manjinske i transrodne učenike. Ovo je u skladu sa Izvršnom naredbom 14110 predsjednika Bidena, koja promoviše odgovornu primjenu AI u ranjivim zajednicama. Smjernice ističu rizik da AI alati nenamjerno dovedu do diskriminacije, poput provjerilaca plagijata koji nepravedno ciljaju na učenike kojima engleski nije maternji jezik, što vodi do rasne pristrasnosti. AI korišten u disciplinskim postupcima mogao bi također produžiti postojeće pristranosti, što potencijalno rezultira strožim kaznama za crne učenike. Nadalje, AI može doprinijeti spolnoj diskriminaciji kroz tehnologiju prepoznavanja lica koja pogrešno identificira učenike koji ne odgovaraju tradicionalnim rodnim normama, što može predstavljati kršenje naslova IX. Bidenova administracija je posvećena rješavanju diskriminacije izazvane AI-om putem zakona o građanskim pravima i zaštiti potrošača, ciljem sprečavanja diskriminacije u raznim sektorima.Ured za građanska prava pri Ministarstvu obrazovanja (OCR) objavio je smjernice o tome kako upotreba umjetne inteligencije (AI) u školama može potencijalno diskriminirati manjinske i transrodne učenike, što može dovesti do saveznih istraga. Nakon Izvršne naredbe predsjednika Bidena 14110, smjernice imaju za cilj osigurati da škole koriste AI odgovorno i bez diskriminacije, posebno u odnosu na ranjive zajednice. Smjernice prikazuju situacije u kojima AI može nepravedno utjecati na učenike, poput provjere plagijata koja netočno označava učenike čiji materinji jezik nije engleski, ili AI sistema koji se koriste za disciplinske mjere i pogoršavaju rasne razlike. Smjernice također razmatraju i mogućnost diskriminacije prema spolu, kao što je korištenje softvera za prepoznavanje lica koji pogrešno identificira učenike koji ne odgovaraju tradicionalnim rodnim normama, što bi moglo dovesti do kršenja pravilnika Title IX. Bidenova administracija je prioritizirala rješavanje problema diskriminacije putem AI-a, a razne agencije su se obavezale provoditi savezne zakone o građanskim pravima i zaštiti potrošača protiv pristrasnih AI sistema.
Taj fokus je dodatno ojačan izvršnom naredbom predsjednika i novim smjernicama Ministarstva obrazovanja. Ministarstvo nije dalo komentare za Fox News Digital prije objavljivanja priče.
Watch video about
Uputstvo odjela za obrazovanje o umjetnoj inteligenciji za sprječavanje diskriminacije u školama
Try our premium solution and start getting clients — at no cost to you
