Onkoloogidel on oluline roll vähihaigete ettevalmistamises keerulisteks otsusteks, nagu ravivõimaluste ja elulõpu eelistuste valimine. Pennsylvania Ülikooli tervisesüsteemis kasutatakse tehisintellekti algoritmi, et ennustada patsientide surma tõenäosust ja algatada vastavad arutelud. Kuid uuring näitas, et algoritmi efektiivsus koroonapandeemia ajal vähenes, mis võis põhjustada arutelude puudumist, vältides tarbetut keemiaravi. Onkoloog Ravi Parikh toob välja, et paljud tervishoiuasutused ei jälgi oma algoritmide tulemuslikkust, mis oli pandeemia ajal tavapärane probleem. Algoritmi tõrked esindavad laiemat väljakutset, mida tunnistavad nii arvutiteadlased kui arstid: tehisintellekti süsteemid vajavad pidevat järelevalvet ja ressursse, et toimida õigesti. Piisava jälgimiseta on oht, et need süsteemid võivad kasvatada tervishoiukulusid, parandamata teenuse kvaliteeti. Stanford Health Care'i Nigam Shah seab kahtluse alla tehisintellekti elujõulisuse, kui see tõstab hoolduskulud 20%. Samuti avaldab FDA komissar Robert Califf muret, et USA tervisesüsteemid ei suuda AI kliinilist kasutust kinnitada. Tehisintellekt on tervishoius juba laialdaselt levinud, aidates patsientide riske prognoosida, diagnooside tegemisel ja muus.

Kuid nende toodete tõhususe hindamine on keeruline ja puudub standardiseeritud meetod nende jälgimiseks pärast rakendamist. Jesse Ehrenfeld, endine Ameerika Meditsiiniassotsiatsiooni president, osutab standardite puudumisele, mis raskendab haiglatel parimate algoritmide valimist. Patsiendikülastusi kokkuvõttev "ambiente dokumenteerimine" on tavaline, sellega seotud suurte investeeringutega. Kuid väikesed vead võivad osutuda kahjulikeks, nagu näitas Stanfordi ülikooli uuring, kus suurel keelemudelil oli 35% veamäär meditsiinilise ajaloo kokkuvõtetes, tuues esile võimalikud ohud. Algoritmid võivad tõrkuda nii loogilistel, näiteks andmemuutustel, kui ka näiliselt juhuslikel põhjustel. Sandy Aronson Mass General Brighamist märgib, et mõned tehisintellekti rakendused kannatavad "mitteterminaalsuse" all, andes ebajärjekindlaid vastuseid. Nende väljakutsete ületamiseks peavad asutused panustama tugevalt järelevalvesse ja ressurssidesse. Stanfordis võttis kahe mudeli aususe läbivaatamine palju aega ja tööjõudu. Eksperdid soovitavad kasutada tehisintellekti tehisintellekti jälgimiseks, juhendatuna andmespetsialistide poolt, kuigi see võib olla kulukas eelarvepiirangute ja AI spetsialistide nappuse tõttu. Kokkuvõttes, kuigi AI-l on palju lubadusi, nõuab selle tervishoiusse integreerimine hoolikat investeerimist ja järelevalvet.