Brief news summary

Истражувачи од MIT создадоа нов метод за подобрување на правичноста и точноста на моделите за машинско учење со адресирање на пристрасностите во збирките на податоци што често оставаат одредени групи недоволно застапени. Овие пристрасности можат да доведат до значајни грешки, како што се погрешни дијагнози кога моделите, главно обучени врз основа на податоци од машки пациенти, се применуваат на женски пациенти. Традиционалните решенија често вклучуваат отстранување на големи сегменти од податоци, што може негативно да влијае на перформансите на моделот. Под водство на Кимиа Хамидиех, тимот од MIT разви техника што селективно отстранува пристрасни точки во податоците кои влијаат на малцинските групи, додека ја зачувува вкупната точност на моделот. Овој метод ги идентификува скриените пристрасности во неизбележаните збирки на податоци, подобрувајќи ја правичноста, особено во критични сектори како здравството. Тој го надополнува постоечките стратегии за правичност, водејќи кон поцелосни решенија. Нивниот пристап се фокусира на намалување на "грешката на најлошата група", каде моделите се распаѓаат со подгрупите во малцинствата. Користејќи техника наречена TRAK, тимот ги идентификува и отстранува проблематичните точки во податоците што предизвикуваат неточни предвидувања, овозможувајќи реконфигурација без потреба од промена на структурата на моделот. Оваа флексибилност е суштинска за различни типови модели, особено кога етикетите на подгрупите не се добро дефинирани. Новата метода ја надминува постоечката техника на три збирки на податоци, постигнувајќи поголема точност со помалку отстранувања на податоци во споредба со традиционалните методи. Поддржано од Националната научна фондација и DARPA, ова истражување претставува значаен напредок во развојот на правични и сигурни модели за машинско учење. Тимот е посветен на усовршување на оваа техника за практични апликации.