La diversitat és una força crucial, especialment en el disseny de la intel·ligència artificial (IA). La participació d'individus de diversos camps professionals, com el dret i les arts creatives, en el disseny i desenvolupament de la IA és essencial. No obstant això, molts equips que volen col·laborar en IA s'enfronten a un obstacle significatiu: la confusió. En un podcast recent, James Landay, professor de ciències de la computació a la Universitat de Stanford, va destacar la importància de la IA participativa. Va afirmar que el disseny holístic dels sistemes d'IA des del principi és crucial per a l'èxit de la implementació de la IA. Sense valors centrats en les persones, la IA no pot prosperar, va declarar Landay durant la seva xerrada amb Lareina Yee, sòcia sènior a McKinsey. Landay, cofundador i codirector de l'Institut de Stanford per a la Intel·ligència Artificial Centrada en les Persones (HAI), va explicar que aconseguir una IA centrada en les persones implica més que aplicacions. “Es tracta de com creem aquests sistemes de IA, qui participa en el seu desenvolupament i fomentar un procés centrat en les persones per crear i avaluar la IA”, va dir. El repte de la IA és la seva imprevisibilitat. A diferència dels PCs, la IA és poc fiable en alguns aspectes, ja que és probabilística i pot oferir resultats variables segons les dades d'entrada, mentre que els sistemes deterministes produeixen el mateix resultat per la mateixa entrada. “Hem de repensar el disseny dels sistemes de IA”, va dir Landay. Els models probabilístics dels sistemes de IA processen dades i generen resultats diferents, cosa que pot provocar al·lucinacions o afirmacions falses.

“Les raons per a això són poc clares, plantejant preocupacions significatives sobre qui construeix aquests models”, va afegir. Els sistemes de IA són difícils de gestionar quan sorgeixen problemes. “Hem de dissenyar els sistemes de IA de manera diferent, ja que esdevindran prevalents en la nostra vida diària, incloent la salut, l'educació i el govern”, va destacar Landay. Actualment, el disseny de la IA implica principalment enginyers, com grups de IA responsable o equips de seguretat, encarregats de les revisions del producte abans del llançament. Malauradament, hi ha pressió per llançar ràpidament, i aquests equips no tenen prou influència per evitar-ho. Incorporar una expertesa diversa en el procés de disseny i desenvolupament és essencial. “Necessitem equips de diverses disciplines—científics socials, humanistes, ètics—perquè els problemes es puguin identificar aviat, i aquests membres tinguin la influència necessària per implementar canvis”, va defensar Landay. Un enfocament de IA obert i multidisciplinari presenta reptes, ja que massa veus poden crear un entorn caòtic. “Els diferents camps parlen llenguatges diferents, i la terminologia pot variar molt”, va advertir Landay. Per exemple, la col·laboració amb un professor d'anglès i un professional mèdic va revelar interpretacions diferents d'un "estudi pilot". Malgrat la confusió, pot fomentar noves idees i perspectives. “Els desenvolupadors de grans models de llenguatge, col·laborant amb ètics de la ciència política, podrien enfrontar qüestions sobre els seus mètodes o llançaments de programari, promovent la consideració de garanties addicionals”, va explicar. La IA està transformant els negocis, els llocs de treball i la societat. És imperatiu que aquesta transformació sigui col·laborativa.