Udviklingen af kunstig intelligens når et kritisk stadie, hvor udviklere forlader velbetalte job hos store virksomheder for at starte sundhedsteknologi-virksomheder. Som et resultat er der behov for regulerende rammer, der prioriterer pålidelighed og patientcentreret anvendelse af kunstig intelligens. Dog er ikke alle regulerende rammer fremmende for revolutionerende fremskridt. Den foreslåede tredjepartsvurderingsproces af Koalitionen for Sundhed AI, ledet af repræsentanter fra store teknologivirksomheder som Google og Microsoft, har rejst bekymringer om potentielt monopol og uretfærdig kontrol af markedsadgang. Denne tilgang kan hæmme innovation fra mindre, nyere virksomheder, der har potentiale til at bringe positive ændringer i patienters og lægers liv. Et alternativt rammeværk, kendt som lokaliseret kvalitetssikring, lægger vægt på decentral beslutningstagning i implementeringen af sundheds-ai.

Denne tilgang giver deltagende organisationer mulighed for at validere ai-modeller på deres egne datasæt, hvilket giver dem mulighed for at bestemme, hvilke teknologier der er mest effektive for de befolkningsgrupper, de betjener. Demokratiseret adgang til ai og lokaliseret sikring får stadig mere opmærksomhed, med initiativer som Sundhed AI Partnerskabet og Epics open source-værktøj. Der er dog behov for yderligere støtte for at sikre, at alle klinikker kan deltage i ai-vurderingsprocessen. Et åbent og konkurrencedygtigt marked er afgørende for teknologisk udvikling inden for sundhedspleje, og der bør gøres indsats for at forhindre monopol af store virksomheder, der kan kvæle innovation og skræmme talent og investering væk. Potentialet inden for ai for at forbedre sundhedspleje, reducere byrden for klinikere og håndtere uligheder inden for sundhedspleje kan kun blive realiseret, hvis innovative får mulighed for hurtigt at teste og validere deres idéer, samtidig med at sundhedssystemer og udbydere kan vælge løsninger skræddersyet til deres unikke behov.