Brief news summary

MIT-forskere har utviklet en ny metode for å forbedre rettferdigheten og nøyaktigheten til maskinlæringsmodeller ved å adressere skjevheter i datasett som ofte fører til at visse grupper blir underrepresentert. Disse skjevhetene kan føre til betydelige feil, som feilaktige diagnoser når modeller hovedsakelig trent på data fra mannlige pasienter brukes på kvinnelige pasienter. Tradisjonelle løsninger innebærer ofte å fjerne store segmenter av data, noe som kan ha en negativ innvirkning på modellens ytelse. Ledet av Kimia Hamidieh, utviklet MIT-teamet en teknikk som selektivt fjerner skjeve datapunkter som påvirker minoritetsgrupper, samtidig som den beholder modellens totale nøyaktighet. Denne metoden identifiserer skjulte skjevheter i merkede datasett og forbedrer rettferdigheten, spesielt i kritiske sektorer som helsevesenet. Den utfyller eksisterende rettferdighetsstrategier og gir mer omfattende løsninger. Deres tilnærming fokuserer på å redusere "verste-gruppe-feil," der modeller svikter med minoritetsundergrupper. Ved å bruke en teknikk kalt TRAK, identifiserer og fjerner teamet problematiske datapunkter som forårsaker unøyaktige prediksjoner, slik at ny trening kan skje uten å måtte endre modellens struktur. Denne fleksibiliteten er essensiell for ulike modelltyper, spesielt når undergruppelabeler ikke er godt definerte. Den nye metoden overgår eksisterende teknikker på tre datasett, og oppnår høyere nøyaktighet med færre datafjerninger sammenlignet med tradisjonelle metoder. Støttet av National Science Foundation og DARPA, utgjør denne forskningen et betydelig fremskritt i utviklingen av rettferdige og pålitelige maskinlæringsmodeller. Teamet er dedikert til å raffinere denne teknikken for praktiske anvendelser.