Mangfold er en avgjørende styrke, spesielt når det gjelder utformingen av kunstig intelligens (KI). Å involvere individer fra ulike profesjonelle felt, som jus og kreative kunstarter, i KI-design og utvikling er essensielt. Imidlertid står mange team som ønsker å samarbeide om KI overfor en betydelig hindring: forvirring. I en nylig podcast fremhevet James Landay, professor i datavitenskap ved Stanford University, viktigheten av deltakende KI. Han hevdet at en helhetlig design av KI-systemer fra starten er avgjørende for å lykkes med KI-implementeringen. Uten menneskesentrerte verdier kan ikke KI trives, fastslo Landay under sin diskusjon med Lareina Yee, seniorpartner i McKinsey. Landay, medgrunnlegger og meddirektør av Stanford Institute for Human-Centered Artificial Intelligence (HAI), forklarte at å oppnå menneskesentrert KI innebærer mer enn bare applikasjoner. "Det handler om hvordan vi skaper disse KI-systemene, hvem som deltar i utviklingen av dem, og å fremme en menneskesentrert prosess i å skape og evaluere KI, " sa han. KIs utfordring er dens uforutsigbarhet. I motsetning til PC-er, er KI upålitelig på noen måter siden den er probabilistisk og kan gi varierende resultater basert på sine data, mens deterministiske systemer gir det samme resultatet for samme input. "Vi må tenke nytt om KI-systemdesign, " sa Landay. KI-systemers probabilistiske modeller behandler data og genererer ulike resultater, noe som kan forårsake hallusinasjoner, eller falske utsagn.

"Årsakene til disse er uklare, og det gir betydelige bekymringer om hvem som konstruerer disse modellene, " la han til. KI-systemer er utfordrende å håndtere når problemer oppstår. "Vi må designe KI-systemer annerledes, ettersom de vil bli utbredt i våre daglige liv, inkludert helse, utdanning og regjering, " påpekte Landay. For tiden innebærer KI-design hovedsakelig ingeniører, som ansvarlige KI-grupper eller sikkerhetsteam, som har oppgaver med produktkontroller før lansering. Dessverre er det press for å lansere raskt, og disse teamene mangler innflytelsen til å forhindre det. Å inkludere mangfoldig ekspertise i design- og utviklingsprosessen er avgjørende. "Vi trenger team fra ulike disipliner—sosiologer, humanister, etikere—slik at problemer blir identifisert tidlig, og disse medlemmene har den nødvendige innflytelsen til å gjennomføre endringer, " argumenterte Landay. En åpen, tverrfaglig KI-tilnærming byr på utfordringer, ettersom for mange stemmer kan skape et kaotisk miljø. "Ulike felt snakker forskjellige språk, og terminologi kan variere i stor grad, " advarte Landay. For eksempel viste samarbeid med en engelsklærer og en medisinsk fagperson forskjellige tolkninger av en "pilotstudie. " Til tross for forvirringen, kan det fremme nye ideer og perspektiver. "Utviklere av store språkmodeller som samarbeider med etiske eksperter innen statsvitenskap, kan møte spørsmål om sine metoder eller programvareutgivelser som fremtvinger vurdering av ytterligere sikkerhetstiltak, " forklarte han. KI forvandler virksomheter, arbeidsplasser og samfunnet. Det er avgjørende at denne transformasjonen er samarbeidsorientert.