कर्करोगतज्ज्ञ रुग्णांना उपचार आणि जीवनाच्या शेवटसंबंधी आवडीनिवडीसारख्या कठिण निर्णयांसाठी तयार करण्यात महत्त्वपूर्ण भूमिका बजावतात. पेनसिल्व्हानिया विद्यापीठाच्या आरोग्य प्रणालीमध्ये, एखाद्या AI अल्गोरिदमचा वापर रुग्णांच्या मृत्यूच्या शक्‍यतेचा अंदाज घेण्यासाठी केला जातो, ज्यामध्ये अशा चर्चांना प्रोत्साहन दिले जाते. तथापि, एका अभ्यासानुसार COVID-19 महामारीच्या काळात अल्गोरिदमची प्रभावीता कमी झाली आहे, ज्यामुळे अनावश्यक कीमोथेरपी टाळण्यासाठी आवश्यक चर्चा राहून गेली असती. ओंकोलॉजिस्ट रवी परिख यांनी या समस्येवर प्रकाश टाकला आणि अनेक आरोग्य संस्थांचे अल्गोरिदम्सची कार्यक्षमता तपासण्यात अपयश दाखवले आहे, हा महामारीच्या काळात एक सामान्य प्रश्न आहे. अल्गोरिदममध्ये बिघाड हे संगणक शास्त्रज्ञ आणि डॉक्टरांनी मान्य केलेल्या व्यापक आव्हानाचे प्रतिनिधित्व करतात: AI प्रणालींना योग्य रितीने कार्य करण्यासाठी सतत देखरेख आणि संसाधनांची आवश्यकता असते. पुरेशी देखरेख नसल्यास, या प्रणालींनी आरोग्यसेवा खर्च वाढण्याचा आणि दर्जा सुधारण्यात अपयशी होण्याचा धोका असतो. स्टॅनफर्ड हेल्थ केअरचे निंगाम शाह AIची व्यवहार्यता प्रश्नांकित करतात, जर यामुळे 20% ने आरोग्यसेवा खर्च वाढतो. त्याचप्रमाणे, FDAचे आयुक्त रॉबर्ट कॅलिफ अशी चिंता व्यक्त करतात की अमेरिकन आरोग्य प्रणालींमध्ये AIच्या नैदानिक वापराची सत्यता पडताळण्याची क्षमता नाही. आरोग्यसेवेत AI आधीच व्यापक आहे, रुग्णांच्या धोक्याचा अंदाज घेणे, निदानास मदत करणे इत्यादी.

परंतु या उत्पादनांच्या प्रभावीतेचे मूल्यांकन करणे जटिल आहे आणि तैनातीनंतर त्यांचे निरीक्षण करण्यासाठी कोणताही मानक पद्धत नाही. अमेरिकन मेडिकल असोसिएशनचे माजी अध्यक्ष जेसी एरेनफेल्ड स्टँडर्ड्सच्या अनुपस्थितीवर लक्ष केंद्रित करतात, ज्यामुळे रुग्णालयांना सर्वोत्तम अल्गोरिदम निवडणे कठीण होते. रुग्ण भेटींचे संक्षेप तयार करणार्‍या AI, जे आजूबाजूच्या दस्तऐवजीकरणासाठी वापरले जाते, लष्करी गुंतवणूक. परंतु लहान चुका खराब ठरू शकतात, स्टॅनफोर्ड विद्यापीठाच्या अध्ययनात मोठ्या भाषेच्या मॉडेल्सचे मेडिकल इतिहास संक्षेपात 35% चुका सिद्ध झाल्याने संभाव्य धोके दाखवले आहेत. अल्गोरिदम्स तार्किक कारणांमुळे, जसे की डेटा बदल, किंवा अगदी विलक्षण कारणांमुळे देखील अपयशी होऊ शकतात. मॅस जनरल ब्रिघमचे सँडी अॅरनसन सांगतात की काही AI अनुप्रयोग "नॉनडेटरमिनिझम" साथी असलेल्या, असंवेदनशील उत्तरे देतात. या आव्हानांतून मार्ग काढण्यासाठी, संस्थांना निरीक्षण आणि संसाधनांमध्ये मोठे गुंतवणूक करावे लागेल. स्टॅनफोर्डमध्ये दोन मॉडेल्सचे न्यायसंगततेसाठी पुनरावलोकन करण्यात महत्त्वाची वेळ आणि मनुष्यबळ लागले. तज्ञ AIच्या देखरेखेसाठी AI वापरण्याचा सल्ला देतात, डेटा तज्ञांच्या देखरेखीखाली, जरी बजेटच्या मर्यादा आणि AI तज्ञांची कमतरता लक्षात घेता हे महागडू ठरू शकते. शेवटी, AI कडे आशा आहे पण त्याचे आरोग्यसेवेत समाकलन काळजीपूर्वक गुंतवणूक आणि देखरेखीची आवश्यकता आहे.