Ідея про те, що штучний інтелект (ШІ) може допомогти в боротьбі з расизмом, може здатися несподіваною, особливо з огляду на звіти про те, що системи ШІ зміцнюють расові упередження. Однак, наближаючись до 2025 року, на тлі реакції проти соціальної справедливості та зростаючої технології ШІ виникає нова можливість. Дилема полягає в тому, що хоча більшість людей не люблять, коли їх називають расистами, дослідження постійно показують значні расові диспропорції в таких сферах, як охорона здоров'я та економічні перспективи. Суспільство схильне більш ретельно досліджувати упередження ШІ, ніж безпосередньо стикатися з людськими упередженнями. У охороні здоров'я, наприклад, хоча багато постачальників медичних послуг визнають системні упередження щодо расових меншин, вони менш схильні визнавати свої власні потенційні упередження. Регулярні перевірки часто виявляють істотні расові диспропорції в лікуванні, що підкреслює перевагу ШІ в тому, що він є більш підконтрольним, ніж людські рішення. Ця підконтрольність створює три основні можливості. По-перше, системи ШІ відображають суспільні упередження, виявляючи упередження в історичних даних, спонукаючи нас визнати незручні реальності в наших установах. По-друге, ШІ можна тестувати та покращувати об'єктивно, на відміну від людських ухвалювачів рішень, які можуть реагувати захисно на обвинувачення в упередженості.

Технічні інструменти можуть визначати та вимірювати справедливість у способах, які виходять за межі спрощених підходів, що дозволяє знайти більш глибокі рішення історичних нерівностей. По-третє, ШІ може зменшити імпліцитні упередження в ухваленні рішень, зосереджуючись виключно на релевантних факторах, а не несвідомо дозволяючи расі впливати на результати. Щоб використовувати цей потенціал, ми повинні зосередитися як на технічних, так і на соціальних факторах. Технічно нам потрібні складні методи, які враховують справедливість у різних контекстах, особливо в сферах з високими ставками, таких як охорона здоров'я та кримінальне правосуддя. Соціально важливо залучати різноманітні перспективи до проектування та впровадження систем ШІ. Організації, такі як Black in AI, співпрацюють з установами для створення стандартів для справедливого ШІ. Метою не є заміна людського судження, а використання ШІ як засобу для сприяння більш справедливим системам. Виявляючи упередження, надаючи рамки для оцінки та дозволяючи забезпечити навмисну справедливість, ШІ може сприяти прогресу до расово справедливого суспільства, досягнення якого було традиційно важким лише людськими зусиллями. Ключове питання полягає не в тому, чи вплине ШІ на расову рівність, а в тому, чи скористаємося ми цією можливістю, щоб забезпечити, що він сприяє справедливості, а не погіршує існуючі шкоди.