CAMBRIDGE, Mass. (AP) — Miután a tech cégek visszavonták részvételüket a munkahelyi sokszínűségi, igazságossági és befogadási (DEI) programokból, most újból vizsgálat alá kerültek az AI-termékekben alkalmazott DEI-kezdeményezések. A Fehér Ház és a republikánus vezette Kongresszus a káros algoritmikus diszkrimináció problémájáról arra a területre helyezte a fókuszt, amit “woke AI”-nak neveznek. A múltbeli erőfeszítéseket, amelyek az AI fejlesztésének igazságosságát és az elfogult eredmények csökkentését célozták, vizsgálja többek között az Alsóház Igazságügyi Bizottsága Amazon, Google, Meta, Microsoft, OpenAI és más cégekhez benyújtott idézésekkel. Eközben az Egyesült Államok Kereskedelmi Minisztériumának szabványügyi szerve eltávolította az AI igazságosságáról, biztonságáról és a “felelősségteljes AI”-ról szóló megjegyzéseket egy közelmúltbeli kutatói együttműködést felhívó dokumentumból. Helyette most a “ideológiai torzítás” csökkentését hangsúlyozza, és ezzel az “emberi fejlődés” és a “gazdasági versenyképesség” elősegítését célozza – írta az Associated Press által megszerzett dokumentum. A techmunkások hozzászoktak a washingtoni prioritások ingadozásához, de ez az új irányváltás aggodalmat kelt a szakértőkben, például a Harvard szociológusa, Ellis Monk körében. Korábban segített Google-nak javítani az AI által kezelt különböző bőrszínek kezelését, hogy kezelje a számítógépes látásban még mindig meglévő torzításokat, amelyek történelmileg a fekete és barna személyeket rosszul ábrázolták. Google elfogadta Monk színskáláját, amely egy elavult, inkább fehér dermatológiai páciensek számára készült modell helyett lépett életbe, és pozitív visszacsatolást kapott a felhasználóktól. Bár Monk úgy véli, hogy a skálájának sok termékben való használata továbbra is biztonságban van, attól tart, hogy a jelenlegi politikai klíma és piaci nyomások miatt a jövőbeni források és az inkluzivitást célzó kezdeményezések csökkenhetnek. Korábban Trump elnök több száz DEI-vel kapcsolatos tudományos és technológiai támogatást fújt le, bár adminisztrációja hatása a kereskedelmi AI fejlesztésre inkább közvetett. Jim Jordan republikánus képviselő, az Igazságügyi Bizottság vezetője vizsgálja, hogy a Biden-adminisztráció nyomást gyakorolt-e az AI cégekre a jogszerű beszéd cenzúrázására.

Michael Kratsios, a Fehér Ház Tudomány- és Technológia Politikai Hivatala igazgatója nemrég bírálta Biden AI-politikáit, mondván, azok a társadalmi megosztottságot és az újraelosztást támogatják az igazságosság nevében. Biden megválasztása előtt már bizonyítékok mutatták, hogy az AI torzításai károkat okoznak: tanulmányok szerint az önvezető autók nehezebben ismertek fel sötétebb bőrszínű gyalogosokat; az AI képgenerátorok túlnyomórészt fehér férfiakat ábrázoltak sebészekként; az arcfelismerés gyakran tévedett ázsiai arcok esetében; és a téves azonosítások jogtalan letartóztatásokhoz vezetettek fekete férfiak esetében. A Google fotóalkalmazása híresen rosszul osztályozta a fekete embereket “gorillákként”, sőt Trump adminisztrációs tudósai is elismerték a rassz, nem és kor szerint eltérő arcfelismerési teljesítményt. Biden megválasztása után megnőtt az ipar figyelme az AI igazságosságára. Az OpenAI 2022-es ChatGPT bevezetése felgyorsította az AI alkalmazások terjedését, és nyomást gyakorolt a vállalatokra, például a Google-re, hogy lépjenek. Azonban a Google Gemini AI chatbot tavalyi beindítása, amely az inkluzivitást kívánta hangsúlyozni, inkább konzervatív támadásokhoz vezette a “woke AI” ellen, különösen a társadalmi torzítások miatt. A Google képalkotó generátorában előfordult, hogy előnyben részesítette a világosabb bőrszínt vagy a fiatal nőket, amikor szakmákról alkotott képeket készített. A különbségek korrigálására tett próbálkozások túlkompenzációhoz vezettek, például olyan ábrázolásokhoz, ahol az alapítók fehér vagy indián származásúak lettek, ami bocsánatkérésekhez és a funkciók eltávolításához vezetett, de ugyanakkor politikai vitákat is kiváltott. 2024 februárjában Párizsban tartott AI csúcstalálkozón J. D. Vance alelnök bírálta az “attól függő társadalmi programokat az AI-n keresztül”, utalva a Gemini incidensre, és ígéretet tett arra, hogy a Trump-adminisztráció biztosítja, hogy az AI mentes legyen ideológiai torzításoktól és megőrizze a szólás szabadságát. Alondra Nelson, Biden egykori tudományos tanácsadója és az OSTP ideiglenes igazgatója szerint a jelenlegi hangsúly az ideológiai torzításon inkább az algoritmusos diszkrimináció hosszú távú félelmeinek elismerése, melyek a lakhatás, az egészségügy és más területeken jelentkeznek. Ugyanakkor kételkedik abban, hogy a politikai megosztottság, amely az algoritmikus és az ideológiai torzítást külön, ellenkező problémaként kezeli, lehetőséget ad-e valójában az együttműködésre.