Brief news summary

Naukowcy z MIT opracowali nowatorską metodę poprawy sprawiedliwości i dokładności modeli uczenia maszynowego poprzez eliminowanie uprzedzeń w zbiorach danych, które często pozostawiają niektóre grupy niedostatecznie reprezentowane. Takie uprzedzenia mogą prowadzić do poważnych błędów, jak błędne diagnozy, gdy modele trenowane głównie na danych pacjentów płci męskiej są stosowane wobec pacjentek. Tradycyjne rozwiązania często polegają na usuwaniu dużych segmentów danych, co może negatywnie wpływać na wydajność modeli. Zespół z MIT, kierowany przez Kimię Hamidieh, opracował technikę selektywnego usuwania nieobiektywnych punktów danych wpływających na grupy mniejszościowe, zachowując ogólną dokładność modelu. Metoda ta identyfikuje ukryte uprzedzenia w nieoznaczonych zbiorach danych, zwiększając sprawiedliwość, zwłaszcza w kluczowych sektorach, takich jak opieka zdrowotna. Uzupełnia ona istniejące strategie dotyczące uczciwości, prowadząc do bardziej kompleksowych rozwiązań. Podejście to koncentruje się na redukcji "błędu najgorszej grupy", gdzie modele zawodzą w przypadku mniejszościowych podgrup. Wykorzystując technikę o nazwie TRAK, zespół identyfikuje i usuwa problematyczne punkty danych powodujące niedokładne prognozy, co umożliwia ponowne trenowanie bez konieczności zmiany struktury modelu. Taka elastyczność jest kluczowa dla różnych typów modeli, zwłaszcza gdy etykiety podgrup nie są dobrze zdefiniowane. Nowa metoda prześciga istniejące techniki na trzech zbiorach danych, osiągając większą dokładność przy mniejszej liczbie usunięć danych w porównaniu do tradycyjnych metod. Wspierane przez National Science Foundation i DARPA, badania te stanowią znaczący postęp w rozwoju sprawiedliwych i niezawodnych modeli uczenia maszynowego. Zespół jest zaangażowany w doskonalenie tej techniki do zastosowań praktycznych.