Krabbameinslæknar gegna mikilvægu hlutverki við að undirbúa krabbameinssjúklinga fyrir erfiðar ákvarðanir, eins og meðferð og hvernig þeir vilja haga lífslokum. Í heilbrigðiskerfinu við Háskólann í Pennsylvaníu er notast við gervigreind til að spá fyrir um dánarhorfur sjúklinga og stuðla þannig að slíkum umræðum. En rannsókn sýndi að virkni reikniritsins minnkaði á COVID-19 faraldrinum, sem mögulega varð til þess að miklar umræður voru ekki haldnar sem hefðu getað komið í veg fyrir óþarfa krabbameinslyfjagjöf. Ravi Parikh, krabbameinslæknir, vekur athygli á þessu vandamáli og bendir á að margar heilbrigðisstofnanir fylgjast ekki með frammistöðu eigin reiknirita, algengt vandamál á faraldrinum. Glitch í reikniritum er stærra vandamál sem tölvunarfræðingar og læknar viðurkenna: Gervigreindarkerfi þurfa stöðugt eftirlit og úrræði til að virka rétt. Án nægilegs eftirlits er hætta á að þessi kerfi auki kostnað í heilbrigðiskerfinu án þess að bæta gæði þjónustunnar. Nigam Shah hjá Stanford Health Care spyr hvort gervigreind sé raunhæf ef hún hækkar kostnað um 20%. Robert Califf, framkvæmdastjóri FDA, hefur einnig áhyggjur af því að bandarísk heilbrigðiskerfi skorti getu til að sannreyna klíníska notkun gervigreindar. Gervigreind er þegar orðin algeng í heilbrigðisþjónustu, til að spá fyrir um áhættu sjúklinga, aðstoða við greiningu og fleira.

En að meta áhrif þessara vara er flókið og engin staðlað aðferð er til um hvernig eigi að fylgjast með þeim eftir uppsetningu. Jesse Ehrenfeld, fyrrum forseti Bandarísku læknasamtakanna, bendir á skort á stöðlum sem gerir það erfitt fyrir sjúkrahús að velja bestu reikniritið. Umhverfilýsing, gervigreind sem tekur saman heimsóknir sjúklinga, er algengt með miklum fjárfestingum. En lítil mistök geta verið skaðleg, eins og sýnt var með rannsókn Stanford háskóla þar sem stór tungumálalíkön höfðu 35% villuhlutfall í samantekt læknasögu, sem sýnir mögulegan hættuleika. Reiknirit geta einnig brugðist vegna rökstuddra ástæðna, eins og breyting á gögnum, eða jafnvel af tilviljanakenndum ástæðum. Sandy Aronson frá Mass General Brigham segir að sum gervigreindarforrit þjáist af „nondeterminism“, veita ósamræmd svör. Til að sigla í gegnum þessar áskoranir, þurfa stofnanir að fjárfesta verulega í eftirliti og úrræðum. Við Stanford tók það verulega mikinn tíma og mannafla að fara yfir tvö módel með tilliti til réttlætis. Sérfræðingar mæla með því að nota gervigreind til að fylgjast með gervigreind, undir eftirliti gagnafræðinga, þó þetta geti verið kostnaðarsamt í ljósi fjárlagahindrana og skorts á sérfræðingum í gervigreind. Að lokum, á meðan gervigreind býr yfir möguleikum, þá krefst samþætting hennar í heilbrigðisþjónustu vandlegrar fjárfestingar og eftirlits.