L'idea che l'intelligenza artificiale (IA) possa aiutare a combattere il razzismo potrebbe sembrare sorprendente, soprattutto alla luce dei rapporti secondo cui i sistemi di IA rinforzano i pregiudizi razziali. Tuttavia, mentre ci avviciniamo al 2025, in mezzo a una reazione contro la giustizia sociale e a un aumento della tecnologia IA, emerge una nuova opportunità. Il dilemma è che, mentre la maggior parte delle persone non ama essere etichettata come razzista, studi dimostrano costantemente significative disparità razziali in aree come la sanità e le prospettive economiche. La società tende a scrutare i pregiudizi dell'IA più facilmente che affrontare direttamente i pregiudizi umani. Nel campo della sanità, ad esempio, mentre molti operatori sanitari riconoscono i pregiudizi sistemici contro le minoranze razziali, sono meno propensi a riconoscere i propri potenziali pregiudizi. Verifiche regolari rivelano spesso notevoli disparità basate sulla razza nei trattamenti, evidenziando il vantaggio dell'IA di essere più verificabile rispetto alle decisioni umane. Questa verificabilità presenta tre principali opportunità. Innanzitutto, i sistemi di IA riflettono i pregiudizi sociali rivelando i pregiudizi nei dati storici, spingendoci a riconoscere realtà scomode all'interno delle nostre istituzioni. In secondo luogo, l'IA può essere testata e migliorata in modo oggettivo, a differenza dei decisori umani che possono reagire in modo difensivo alle accuse di pregiudizio.

Strumenti tecnici possono definire e misurare l'equità in modi che vanno oltre approcci semplicistici, consentendo soluzioni più profonde alle disuguaglianze storiche. Terzo, l'IA può mitigare i pregiudizi impliciti nel processo decisionale concentrandosi esclusivamente sui fattori rilevanti, piuttosto che permettere inconsapevolmente alla razza di influenzare i risultati. Per sfruttare questo potenziale, dobbiamo concentrarci sia su fattori tecnici che sociali. Dal punto di vista tecnico, abbiamo bisogno di metodi sofisticati che affrontino l'equità in contesti diversi, in particolare in aree ad alto rischio come la sanità e la giustizia penale. Socialmente, è fondamentale coinvolgere prospettive diverse nella progettazione e implementazione dei sistemi di IA. Organizzazioni come Black in AI collaborano con istituzioni per creare standard per un'IA equa. L'obiettivo non è sostituire il giudizio umano, ma utilizzare l'IA come un mezzo per promuovere sistemi più equi. Rivelando i pregiudizi, fornendo quadri per la valutazione e consentendo un'equità intenzionale, l'IA potrebbe facilitare progressi verso una società giusta dal punto di vista razziale, che è stata tradizionalmente difficile da ottenere attraverso sforzi umani da sola. La questione cruciale non è se l'IA influenzerà l'equità razziale, ma se coglieremo questa opportunità per garantire che promuova la giustizia piuttosto che aggravare i danni esistenti.