Brief news summary

Onderzoekers van MIT hebben een innovatieve methode ontwikkeld om de eerlijkheid en nauwkeurigheid van machine learning-modellen te verbeteren door dataset-biases aan te pakken die vaak bepaalde groepen ondervertegenwoordigen. Deze biases kunnen leiden tot aanzienlijke fouten, zoals verkeerde diagnoses wanneer modellen die voornamelijk zijn getraind op mannelijke patiëntgegevens worden toegepast op vrouwelijke patiënten. Traditionele oplossingen houden vaak in dat grote segmenten van data worden verwijderd, wat de modelprestaties negatief kan beïnvloeden. Onder leiding van Kimia Hamidieh heeft het MIT-team een techniek ontwikkeld die selectief bevooroordeelde datapunten verwijdert die minderheidsgroepen beïnvloeden, terwijl de algehele modelnauwkeurigheid behouden blijft. Deze methode identificeert verborgen biases in niet-gelabelde datasets en verbetert de eerlijkheid, vooral in kritieke sectoren zoals de gezondheidszorg. Het vult bestaande eerlijkheidsstrategieën aan, wat leidt tot meer uitgebreide oplossingen. Hun benadering richt zich op het verminderen van "worst-group error", waarbij modellen falen met minderheidssubgroepen. Met behulp van een techniek genaamd TRAK identificeert en verwijdert het team problematische datapunten die tot onnauwkeurige voorspellingen leiden, waardoor hertraining mogelijk is zonder de structuur van het model te hoeven veranderen. Deze flexibiliteit is essentieel voor verschillende modeltypen, vooral wanneer subgroep-labels niet goed gedefinieerd zijn. De nieuwe methode presteert beter dan bestaande technieken op drie datasets en behaalt een hogere nauwkeurigheid met minder data verwijderingen vergeleken met traditionele methoden. Gesteund door de National Science Foundation en DARPA, vormt dit onderzoek een belangrijke vooruitgang in de ontwikkeling van eerlijke en betrouwbare machine learning-modellen. Het team is toegewijd aan het verfijnen van deze techniek voor praktische toepassingen.