भारतीय स्वास्थ्य सेवा में कृत्रिम बुद्धिमत्ता अब भविष्य की अवधारणा नहीं रह गई है। एआई-आधारित निदान उपकरण - मधुमेह रेटिनोपैथी के लिए रेटिना की तस्वीरों का विश्लेषण करने वाले एल्गोरिदम, हृदय अतालता के लिए ईसीजी ट्रेस, स्तन घावों के लिए मैमोग्राम और रोग संबंधी निष्कर्षों के लिए रेडियोलॉजी छवियों का विश्लेषण करने वाले एल्गोरिदम - भारतीय अस्पतालों और निदान केंद्रों में वर्तमान में ही उपयोग में लाए जा रहे हैं। दिल्ली, मुंबई, चेन्नई और बेंगलुरु के बड़े तृतीयक देखभाल अस्पतालों में रोबोटिक सर्जिकल सिस्टम उपयोग में हैं। ईएमआर में एकीकृत नैदानिक निर्णय सहायता प्रणालियाँ बड़े पैमाने पर दवा अंतःक्रियाओं का सुझाव दे रही हैं और असामान्य प्रयोगशाला मूल्यों को चिह्नित कर रही हैं।

लेकिन भारत में इन प्रौद्योगिकियों को नियंत्रित करने वाला कानूनी ढांचा लगभग न के बराबर है। यहां कोई समर्पित एआई दायित्व कानून नहीं है, न ही यूएस एफडीए के सॉफ्टवेयर एज़ ए मेडिकल डिवाइस (एसएएमडी) ढांचे के समकक्ष कोई क्षेत्र-विशिष्ट नियामक अनुमोदन प्रक्रिया है, और न ही कोई न्यायिक मिसाल है जो स्पष्ट रूप से यह बताती हो कि नैदानिक परिस्थिति में एआई उपकरण से रोगी को नुकसान होने पर कौन जिम्मेदार होगा।

यह लेख उस प्रश्न का विश्लेषण करता है जो भारत में स्वास्थ्य सेवा प्रदाता, मरीज और वकील तेजी से पूछ रहे हैं: जब कोई एआई डायग्नोस्टिक टूल गलत हो और किसी मरीज को नुकसान पहुंचे, तो इसके लिए कौन जिम्मेदार होगा?

"चिकित्सा क्षेत्र में कृत्रिम बुद्धिमत्ता (एआई) एक बिल्कुल नया दायित्व प्रश्न खड़ा करती है - ऐसा इसलिए नहीं कि कानून इस बारे में पूरी तरह चुप है, बल्कि इसलिए कि मौजूदा ढांचा ऐसी दुनिया के लिए बनाया गया था जिसमें अंतिम नैदानिक निर्णय हमेशा एक इंसान ही लेता है। चुनौती यह है कि स्थापित सिद्धांतों को ऐसे संदर्भ में कैसे लागू किया जाए जहां 'उपकरण' और 'निर्णय लेने वाले' के बीच की रेखा तेजी से धुंधली होती जा रही है। अदालतें अंततः इस मामले को सुलझाएंगी - लेकिन फिलहाल, जोखिम डॉक्टर और अस्पताल को उठाना होगा, और उन्हें उसी के अनुसार योजना बनानी चाहिए।"
- डॉ. नमित गुप्ता, वरिष्ठ मेडिको-लीगल विशेषज्ञ, मेडिको लीगल सर्विसेज, नई दिल्ली

भारतीय स्वास्थ्य सेवा में एआई की स्थिति

भारतीय नैदानिक अभ्यास से संबंधित कई एआई उपकरण पहले से ही उपयोग में हैं या सक्रिय रूप से अपनाए जा रहे हैं:

  • निरामई (थर्मालिटिक्स): स्तन कैंसर की जांच के लिए एक एआई-आधारित थर्मल इमेजिंग उपकरण, जिसका भारतीय आबादी में सत्यापन हो चुका है और जिसे कई अस्पतालों और कैंसर स्क्रीनिंग शिविरों में उपयोग में लाया जा रहा है।
  • ट्राइकोग हेल्थ: भारत भर के 1,000 से अधिक अस्पतालों में एक एआई-संचालित ईसीजी विश्लेषण प्लेटफॉर्म तैनात किया गया है, जो एसटीईएमआई का पता लगाने सहित लगभग वास्तविक समय में हृदय संबंधी निदान सहायता प्रदान करता है।
  • डायबिटिक रेटिनोपैथी स्क्रीनिंग एआई: मधुमेह से होने वाली आंखों की बीमारी का शीघ्र पता लगाने के लिए आयुष और सरकारी स्क्रीनिंग कार्यक्रमों के माध्यम से गूगल के रेटिनाएआई और भारतीय समकक्षों सहित कई एआई उपकरणों का परीक्षण किया जा रहा है।
  • रेडियोलॉजी एआई: छाती के एक्स-रे से तपेदिक का पता लगाने वाले उपकरण (जैसे कि भारत में विकसित Qure.ai का qXR) सरकारी अस्पतालों और निजी निदान श्रृंखलाओं में उपयोग किए जाते हैं।
  • रोबोटिक सर्जरी: अपोलो हॉस्पिटल्स, फोर्टिस, मणिपाल और कई एम्स केंद्रों में मूत्रविज्ञान, स्त्रीरोगविज्ञान और गैस्ट्रोइंटेस्टाइनल प्रक्रियाओं के लिए दा विंची सर्जिकल सिस्टम और इसी तरह के रोबोटिक प्लेटफॉर्म सक्रिय रूप से उपयोग में हैं।

ये प्रायोगिक परियोजनाएं नहीं हैं। ये नैदानिक उपकरण हैं जो वास्तविक रोगियों को प्रभावित करने वाले निदान और उपचार संबंधी निर्णयों में वास्तविक समय में योगदान दे रहे हैं।

कानूनी शून्य: भारत की वर्तमान स्थिति

भारत में एआई दायित्व से संबंधित कोई विशेष कानून नहीं है। सबसे करीबी नियामक ढाँचे निम्नलिखित हैं:

  • चिकित्सा उपकरण नियम, 2017: कृत्रिम बुद्धिमत्ता (AI) से संचालित नैदानिक सॉफ्टवेयर "चिकित्सा प्रयोजनों के लिए अभिप्रेत सॉफ्टवेयर" की परिभाषा के अंतर्गत चिकित्सा उपकरण की श्रेणी में आ सकता है। CDSCO, AI/ML आधारित उपकरणों सहित, सॉफ्टवेयर एज़ अ मेडिकल डिवाइस (SaMD) के लिए एक ढांचा विकसित कर रहा है। 2026 तक, यह ढांचा पूरी तरह से कार्यान्वित नहीं हो पाया है, जिसके कारण नैदानिक उपयोग में आने वाले कई AI उपकरणों के पंजीकरण और बाज़ार में आने के बाद की निगरानी में कमी रह गई है।
  • उपभोक्ता संरक्षण अधिनियम, 2019: यह दोषपूर्ण उत्पादों और कमियों वाली सेवाओं पर लागू होता है। एक एआई उपकरण जो लगातार गलत परिणाम देता है, वह संभावित रूप से एक "दोषपूर्ण उत्पाद" है; ऐसे उपकरण का उपयोग करके दी जाने वाली नैदानिक देखभाल संभावित रूप से एक "कमियों वाली सेवा" है।"
  • डीपीडीपी अधिनियम, 2023: यह कृत्रिम बुद्धिमत्ता प्रणालियों को प्रशिक्षित करने और चलाने के लिए रोगी डेटा के उपयोग को नियंत्रित करता है। यह डेटा प्रबंधन से संबंधित है, लेकिन नैदानिक दायित्व से सीधे तौर पर संबंधित नहीं है।
  • सूचना प्रौद्योगिकी अधिनियम, 2000: यह कानून इलेक्ट्रॉनिक रिकॉर्ड और डिजिटल सिस्टम को व्यापक रूप से नियंत्रित करता है, लेकिन इसमें विशेष रूप से एआई से संबंधित जवाबदेही का उल्लेख नहीं है।

दायित्व ढांचा विश्लेषण: तीन संभावित प्रतिवादी

1. उपचार करने वाला चिकित्सक: "अंतिम निर्णय" का सिद्धांत

स्थापित भारतीय और अंतर्राष्ट्रीय कानून के तहत, कृत्रिम बुद्धिमत्ता को एक श्रेणी में वर्गीकृत किया गया है। औजार, किसी चिकित्सक द्वारा लिए गए नैदानिक निर्णय के लिए पूर्ण कानूनी उत्तरदायित्व उसी चिकित्सक का होता है, न कि किसी चिकित्सक का। एआई उपकरण का उपयोग करने वाला चिकित्सक ही नैदानिक निर्णय के लिए पूर्ण कानूनी रूप से उत्तरदायी होता है। यही "अंतिम निर्णय" का सिद्धांत है: एआई चाहे कितना भी उन्नत क्यों न हो, लाइसेंस प्राप्त मानव चिकित्सक ही उसके परिणामों को नैदानिक निर्णय के साथ एकीकृत करता है और उस पर कार्रवाई करता है — और उस चिकित्सक की ही परिणाम के लिए पेशेवर और कानूनी जवाबदेही होती है।

इसके परिणाम गंभीर हैं। यदि कोई रेडियोलॉजिस्ट मूल छवि की स्वतंत्र रूप से समीक्षा किए बिना एआई द्वारा चिह्नित रिपोर्ट पढ़ता है और किसी ऐसे निष्कर्ष को नज़रअंदाज़ कर देता है जिसे एआई भी नहीं देख पाया हो और जिसे एक सतर्क मानव रेडियोलॉजिस्ट आसानी से पकड़ लेता, तो वह रेडियोलॉजिस्ट लापरवाही के लिए उत्तरदायी हो सकता है। यदि कोई हृदय रोग विशेषज्ञ नैदानिक स्थिति की जाँच किए बिना एआई द्वारा उत्पन्न ईसीजी विश्लेषण पर कार्रवाई करता है और एआई गलत साबित होता है, तो उपचार आदेश पर हस्ताक्षर करने वाले हृदय रोग विशेषज्ञ की प्राथमिक जिम्मेदारी होगी।

बोलम परीक्षण—यानी यह जांचना कि क्या उस विशेषज्ञता में सामान्य कौशल वाला एक सक्षम चिकित्सक वही निर्णय लेता—केवल एआई के शामिल होने से समाप्त नहीं हो जाता। न्यायालय यह प्रश्न पूछेंगे: क्या एक सक्षम चिकित्सक, उसी एआई उपकरण का उपयोग करते हुए, नैदानिक स्थिति को देखते हुए अतिरिक्त नैदानिक सावधानी बरतता? यदि हाँ, और यदि प्रतिवादी चिकित्सक ने ऐसा नहीं किया, तो एआई त्रुटि के बावजूद लापरवाही सिद्ध हो सकती है।

2. एआई डेवलपर: उपभोक्ता संरक्षण अधिनियम 2019 के अंतर्गत उत्पाद दायित्व

उपभोक्ता संरक्षण अधिनियम 2019 के अध्याय VI में उत्पाद दायित्व का स्पष्ट ढांचा मौजूद है। दोषपूर्ण उत्पाद से होने वाली हानि के लिए "उत्पाद निर्माता" उत्तरदायी होता है। "उत्पाद" में सॉफ्टवेयर भी शामिल है (अधिनियम में "उत्पाद" को व्यापक रूप से किसी भी वस्तु या सामान के रूप में परिभाषित किया गया है)। यदि किसी एआई डायग्नोस्टिक टूल में - एक उत्पाद के रूप में - निर्माण दोष (एल्गोरिदम द्वारा व्यवस्थित रूप से गलत परिणाम उत्पन्न करना), डिज़ाइन दोष (टूल अपने इच्छित निदान उद्देश्य के लिए उपयुक्त नहीं है), या उसकी सीमाओं के बारे में पर्याप्त चेतावनियों का अभाव है, तो डेवलपर उत्पाद निर्माता के रूप में उत्तरदायी हो सकता है।

वादी पक्ष के लिए चुनौती साक्ष्य प्रस्तुत करना है। किसी एआई उपकरण की दोषपूर्णता को साबित करने के लिए - न कि केवल किसी विशिष्ट मामले में गलत परिणाम देने के लिए - एल्गोरिदम, उसके सत्यापन डेटासेट, उसके प्रदर्शन मापदंडों (संवेदनशीलता, विशिष्टता, प्रासंगिक जनसंख्या में सकारात्मक पूर्वानुमानित मान) और क्या उस विशिष्ट मामले में उसका परिणाम उसकी ज्ञात त्रुटि विशेषताओं के अनुरूप था, के बारे में तकनीकी विशेषज्ञ साक्ष्य की आवश्यकता होती है।

अधिकांश एआई चिकित्सा उपकरण निर्माता अपने उत्पाद में यह अस्वीकरण शामिल करते हैं कि यह एक "निर्णय सहायता उपकरण" है, न कि निदान उपकरण - इस प्रकार निदान की जिम्मेदारी चिकित्सक पर आ जाती है। क्या भारतीय न्यायालय ऐसे अस्वीकरणों को उत्पाद दायित्व से पूर्ण बचाव के रूप में स्वीकार करेंगे, या वे संविदात्मक ढांचे से परे जाकर इस व्यावहारिक वास्तविकता को समझेंगे कि चिकित्सक इन परिणामों पर अत्यधिक निर्भर रहते हैं, यह एक खुला प्रश्न है। उपभोक्ता संरक्षण अधिनियम उपभोक्ताओं के विरुद्ध उत्पाद दायित्व को संविदात्मक रूप से बाहर करने की अनुमति नहीं देता है।

3. अस्पताल: संस्थागत दायित्व

एआई टूल का उपयोग करने वाला अस्पताल निष्क्रिय दर्शक नहीं होता। उसकी स्वतंत्र जिम्मेदारियां होती हैं:

  • तैनाती से पहले सत्यापन: यदि कोई अस्पताल अपने स्वयं के रोगी समूह (जो उपकरण के सत्यापन डेटासेट से भिन्न हो सकता है) में एआई उपकरण के प्रदर्शन की विशेषताओं को सत्यापित किए बिना उसे अपनाता है, तो उपकरण के उस समूह में खराब प्रदर्शन करने की स्थिति में अस्पताल स्वतंत्र रूप से लापरवाही का दोषी हो सकता है।
  • कर्मचारियों का प्रशिक्षण: यदि क्लिनिकल स्टाफ को एआई टूल की सीमाओं के बारे में प्रशिक्षित नहीं किया जाता है — और विशेष रूप से एआई आउटपुट को आँख बंद करके स्वीकार करने के बजाय स्वतंत्र निर्णय लेने के लिए प्रशिक्षित नहीं किया जाता है — तो अस्पताल की यह प्रशिक्षण देने में विफलता अप्रत्यक्ष या संस्थागत लापरवाही मानी जा सकती है।
  • पर्यवेक्षण: अपर्याप्त नैदानिक प्रशासन (एआई को ओवरराइड करने के लिए कोई प्रोटोकॉल नहीं, एआई-सहायता प्राप्त निर्णयों का कोई ऑडिट नहीं, अनिश्चित मामलों के लिए कोई एस्केलेशन पाथवे नहीं) के साथ एआई टूल को तैनात करने से संस्थागत दायित्व उत्पन्न होता है।
  • आधारभूत संरचना: यदि एआई टूल को सटीक रूप से कार्य करने के लिए विशिष्ट तकनीकी स्थितियों (छवि गुणवत्ता सीमा, विशिष्ट डेटा प्रारूपों के साथ एकीकरण) की आवश्यकता होती है और अस्पताल का बुनियादी ढांचा उन स्थितियों को पूरा नहीं करता है, तो एआई को दी गई खराब गुणवत्ता वाली इनपुट के कारण होने वाली त्रुटियां अस्पताल की अपर्याप्त तकनीकी व्यवस्था के कारण होती हैं।

बोलम टेस्ट और एआई: देखभाल के मानकों का विकास

बोलम परीक्षण में यह पूछा जाता है कि "चिकित्सा विशेषज्ञों की एक ज़िम्मेदार संस्था" किस प्रक्रिया को स्वीकार्य मानती है। एआई इस परीक्षण में एक दिलचस्प बदलाव लाता है: जैसे-जैसे एआई उपकरण किसी विशेष क्षेत्र में मानक उपचार बन जाते हैं, उनका उपयोग न करना स्वयं लापरवाही माना जा सकता है। एक रेडियोलॉजिस्ट जो छाती के एक्स-रे में टीबी का पता लगाने के लिए मान्य एआई सहायक उपकरण का उपयोग नहीं करता है - जबकि उस क्षेत्र के सभी सक्षम रेडियोलॉजिस्ट नियमित रूप से इसका उपयोग करते हैं - उस पर निम्न स्तर की चिकित्सा पद्धति का आरोप लगाया जा सकता है।

इसके विपरीत, जैसे-जैसे चिकित्सा जगत में विशिष्ट एआई उपकरणों की सीमाएं ज्ञात होती जाएंगी, स्वतंत्र नैदानिक सत्यापन के बिना उन पर भरोसा करना भी मानकों के विपरीत हो सकता है। देखभाल का मानक प्रौद्योगिकी के साथ विकसित होगा, और अदालतों को कथित लापरवाही के समय उचित एआई-सहायता प्राप्त अभ्यास के बारे में संबंधित विशेषज्ञता के चिकित्सकों से विशेषज्ञ साक्ष्य की आवश्यकता होगी।

अंतर्राष्ट्रीय संदर्भ: भारत को क्या सबक सीखने चाहिए

आईबीएम वाटसन फॉर ऑन्कोलॉजी

आईबीएम वाटसन फॉर ऑन्कोलॉजी को अंतरराष्ट्रीय स्तर पर कई प्रमुख कैंसर केंद्रों में तैनात किया गया था, जिनमें भारत का एक केंद्र भी शामिल था। रिपोर्ट सामने आईं कि इसके उपचार संबंधी सुझाव कभी-कभी स्थापित ऑन्कोलॉजी दिशानिर्देशों के अनुरूप नहीं थे, और इस प्रणाली को चुपचाप कई संस्थानों से हटा लिया गया। किसी भी सफल कानूनी दावे की सार्वजनिक रूप से रिपोर्ट नहीं की गई, लेकिन इस घटना ने यह स्पष्ट कर दिया कि कठोर स्वतंत्र सत्यापन के बिना नैदानिक परिस्थितियों में बड़े पैमाने पर तैनात एआई व्यवस्थित रूप से गलत परिणाम दे सकता है - और जिन अस्पतालों ने पर्याप्त निगरानी के बिना इसे तैनात किया था, वे परिणामों के लिए संस्थागत रूप से जिम्मेदार थे।

एफडीए का एसएएमडी ढांचा

अमेरिकी एफडीए ने सॉफ्टवेयर एज़ अ मेडिकल डिवाइस (एसएएमडी) के लिए एक विशिष्ट नियामक प्रक्रिया विकसित की है, जिसमें एआई/एमएल-आधारित एसएएमडी भी शामिल है। क्लास II या क्लास III के रूप में वर्गीकृत उपकरणों के लिए नैदानिक उपयोग से पहले पूर्व-बाजार अधिसूचना या अनुमोदन आवश्यक है। भारत का सीडीएससीओ ढांचा अभी भी विकसित हो रहा है, लेकिन मेडटेक क्षेत्र और अस्पताल समुदाय को इस ढांचे के परिपक्व होने के साथ एआई नैदानिक उपकरणों पर बढ़ते नियामक निरीक्षण की उम्मीद करनी चाहिए।

रोबोटिक सर्जरी से संबंधित दायित्व: एक त्रिपक्षीय समस्या

रोबोटिक सर्जरी प्रणालियाँ — जिनमें भारत में दा विंची सर्जिकल सिस्टम सबसे अधिक प्रचलित है — एक विशिष्ट दायित्व त्रिकोण बनाती हैं। रोबोटिक प्रक्रिया के दौरान कोई जटिलता उत्पन्न होने पर, निम्नलिखित पक्षों पर दायित्व आ सकता है:

  • ऑपरेशन करने वाला सर्जन: रोबोटिक भुजाओं को कौन नियंत्रित करता है और प्रक्रिया के दौरान लिए गए सभी शल्य चिकित्सा संबंधी निर्णयों के लिए कौन जिम्मेदार है? सर्जन किसी तकनीकी त्रुटि के लिए रोबोट को दोष नहीं दे सकता, जिसे एक कुशल रोबोटिक सर्जन आसानी से टाल सकता था।
  • अस्पताल: जो यह सुनिश्चित करने के लिए जिम्मेदार है कि रोबोट का उचित रखरखाव, अंशांकन और सर्विसिंग की जाए; कि सर्जिकल टीम को पर्याप्त प्रशिक्षण दिया जाए; और यह कि रोबोट का उपयोग उसके मान्य नैदानिक संकेतों के भीतर किया जाए।
  • निर्माता: यदि रोबोटिक सिस्टम में यांत्रिक खराबी, सॉफ्टवेयर की गड़बड़ी, या डिजाइन दोष के कारण जटिलता उत्पन्न हुई हो या उसमें योगदान दिया हो, तो उपभोक्ता संरक्षण अधिनियम 2019 के तहत उत्पाद दायित्व लागू होता है।

व्यवहार में, रोबोटिक सर्जरी की अधिकांश जटिलताएँ उपकरण की खराबी के बजाय सर्जन की तकनीक से उत्पन्न होती हैं - ये वही जटिलताएँ हैं जो लैप्रोस्कोपिक या ओपन सर्जरी में भी हो सकती हैं। लेकिन यदि उपकरण में वास्तविक खराबी का आरोप लगाया जाता है, तो निर्माता की जिम्मेदारी बनती है, और इसे साबित करने के लिए रोबोट के इवेंट लॉग (जिसे आधुनिक सर्जिकल रोबोट रिकॉर्ड करते हैं) का निरीक्षण और विशेषज्ञ तकनीकी साक्ष्य आवश्यक होते हैं।

भारत का नियामकीय मार्ग: सीडीएससीओ और एआई/एमएल एसएएमडी

केंद्रीय औषधि मानक नियंत्रण संगठन (सेंट्रल ड्रग्स स्टैंडर्ड कंट्रोल ऑर्गनाइजेशन) कृत्रिम बुद्धिमत्ता पर आधारित चिकित्सा सॉफ्टवेयर के लिए एक स्पष्ट वर्गीकरण और अनुमोदन प्रक्रिया बनाने हेतु चिकित्सा उपकरण नियम 2017 के अंतर्गत कार्य कर रहा है। अपेक्षित ढांचा निम्नलिखित कार्य करेगा:

  • जोखिम स्तर के आधार पर AI/ML SaMD का वर्गीकरण करें (कक्षा I/II/III के समकक्ष)।
  • उच्च जोखिम वाले एआई डायग्नोस्टिक टूल के लिए प्री-मार्केट पंजीकरण अनिवार्य है।
  • एआई टूल्स से जुड़े प्रतिकूल घटनाओं की बाजार में वापसी के बाद की प्रदर्शन निगरानी और रिपोर्टिंग को अनिवार्य बनाएं।
  • निरंतर सीखने वाली एआई प्रणालियों (जो नए डेटा के साथ अपने एल्गोरिदम को अपडेट करती हैं) की विशिष्ट चुनौती का समाधान करें — एफडीए के ढांचे के समान "पूर्व निर्धारित परिवर्तन नियंत्रण योजना" दृष्टिकोण बनाएं।

जब तक यह ढांचा पूरी तरह से लागू नहीं हो जाता, अस्पतालों को एआई टूल के उपयोग पर अपना स्वयं का नैदानिक प्रशासन बनाए रखना होगा।

एआई टूल को तैनात करने से पहले अस्पतालों को क्या करना चाहिए

  • अपने रोगी समूह में प्रदर्शन का सत्यापन करें: पश्चिमी देशों की आबादी पर परीक्षित एआई टूल भारतीय रोगियों पर अलग तरह से काम कर सकता है, क्योंकि भारतीय रोगियों में रोग की व्यापकता, सह-रुग्णता के पैटर्न और प्रस्तुति की विशेषताएं भिन्न होती हैं। पूर्ण तैनाती से पहले एक स्थानीय सत्यापन अध्ययन अवश्य करें।
  • CDSCO पंजीकरण स्थिति की समीक्षा करें: जाँच करें कि क्या यह उपकरण CDSCO के साथ चिकित्सा उपकरण के रूप में पंजीकृत है। यदि नहीं, तो इसका कारण समझें — कुछ डेवलपर दावा करते हैं कि उनके उपकरण चिकित्सा उपकरण नहीं हैं; इनका उपयोग करने वाले अस्पतालों पर अतिरिक्त प्रशासनिक ज़िम्मेदारी आ जाती है।
  • सूचित सहमति को अद्यतन करें: मरीजों को यह पता होना चाहिए कि उनके निदान में कृत्रिम बुद्धिमत्ता (AI) का उपयोग किया जा रहा है और उन्हें प्रश्न पूछने का अवसर मिलना चाहिए। प्रासंगिक प्रक्रियाओं में AI के उपयोग का खुलासा करने के लिए सहमति प्रपत्रों को अद्यतन करें।
  • क्लिनिकल ओवरराइड का दस्तावेजीकरण करें: एक ऐसा प्रोटोकॉल स्थापित करें जिसके तहत यह दर्ज किया जा सके कि कोई चिकित्सक एआई आउटपुट से कब सहमत है (और क्यों), और सबसे महत्वपूर्ण बात यह है कि चिकित्सक एआई की सिफारिश को कब अस्वीकार करता है। ये रिकॉर्ड कानूनी दृष्टि से महत्वपूर्ण हैं।
  • प्रशिक्षण और योग्यता मूल्यांकन: सुनिश्चित करें कि एआई उपकरणों का उपयोग करने वाले सभी नैदानिक कर्मचारियों को उनकी सीमाओं के बारे में प्रशिक्षित किया जाए और एआई-सहायता प्राप्त नैदानिक निर्णय लेने में उनकी दक्षता का मूल्यांकन किया जाए।
  • विक्रेता अनुबंध: एआई टूल विक्रेताओं के साथ अनुबंध में निम्नलिखित बातों का ध्यान रखा जाना चाहिए: प्रदर्शन वारंटी, टूल द्वारा गलत आउटपुट दिए जाने पर क्या होगा, विक्रेता की क्षतिपूर्ति की स्थिति और डीपीडीपी अधिनियम के तहत डेटा प्रबंधन।

एआई टूल्स का उपयोग करते समय डॉक्टरों को क्या करना चाहिए

  • एआई आउटपुट को कई इनपुट में से एक के रूप में मानें - नैदानिक मूल्यांकन के विकल्प के रूप में नहीं।
  • नैदानिक स्थिति से असंगत एआई आउटपुट को आगे की जांच किए बिना स्वीकार न करें।
  • अपने नैदानिक तर्क को एआई आउटपुट से अलग से दस्तावेज़ित करें — अदालतें इसी की जांच करेंगी।
  • आप जिन एआई टूल्स का उपयोग करते हैं, उनकी प्रदर्शन विशेषताओं को समझें: उनकी संवेदनशीलता, विशिष्टता और ज्ञात विफलता के तरीके।
  • संदेह होने पर, स्थापित नैदानिक प्रोटोकॉल का पालन करें - एआई टूल द्वारा इसके विपरीत सुझाव देना, देखभाल के मानक से विचलन का बचाव नहीं है।

एक केस स्टडी परिदृश्य

दिल्ली के एक निजी अस्पताल में वार्षिक जांच के लिए आने वाले 52 वर्षीय मधुमेह रोगी पर विचार करें। अस्पताल मधुमेह रेटिनोपैथी का पता लगाने के लिए आंखों के फंडस फोटोग्राफ का विश्लेषण करने के लिए एआई-आधारित रेटिनल स्क्रीनिंग टूल का उपयोग करता है। एआई टूल रिपोर्ट करता है, "कोई चिकित्सकीय रूप से महत्वपूर्ण मधुमेह रेटिनोपैथी नहीं पाई गई।" रिपोर्ट की समीक्षा एक तकनीशियन द्वारा की जाती है जो एआई आउटपुट को रोगी की फाइल में जोड़ देता है। किसी भी नेत्र विशेषज्ञ द्वारा स्वतंत्र रूप से छवि की समीक्षा नहीं की जाती है। बारह महीने बाद, रोगी को अचानक दृष्टि हानि की शिकायत होती है। एक नेत्र विशेषज्ञ गंभीर प्रोलिफेरेटिव मधुमेह रेटिनोपैथी की पहचान करता है - ऐसे परिवर्तन जो एक विशेषज्ञ के पूर्वव्यापी विश्लेषण में, पिछले वर्ष की छवि में दिखाई दे रहे थे और जिनके आधार पर लेजर उपचार किया जाना चाहिए था।

इस परिदृश्य में, दायित्व विश्लेषण तीन दिशाओं की ओर इशारा करता है:

  • एआई टूल डेवलपर — यदि टूल उन परिवर्तनों का पता लगाने में विफल रहता है जिन्हें एक मान्य एल्गोरिदम को पकड़ लेना चाहिए था (संभावित उत्पाद दोष)
  • अस्पताल पर एक स्क्रीनिंग प्रोटोकॉल लागू करने का आरोप है जिसमें किसी भी योग्य चिकित्सक ने स्वतंत्र रूप से छवि की समीक्षा नहीं की, बल्कि पूरी तरह से एआई आउटपुट पर भरोसा किया गया।
  • यदि उपचार करने वाले चिकित्सक रोगी की वार्षिक समीक्षा के लिए जिम्मेदार थे और उन्होंने फंडस इमेज की स्वतंत्र नैदानिक समीक्षा किए बिना एआई द्वारा तैयार की गई रिपोर्ट को स्वीकार कर लिया, तो यह कार्रवाई योग्य नहीं होगी।

उपभोक्ता मंच या दीवानी अदालत तीनों पहलुओं की जांच करेगी। अस्पताल और चिकित्सक के लिए सबसे तर्कसंगत स्थिति यह होती कि एआई आउटपुट के साथ-साथ एक स्वतंत्र विशेषज्ञ समीक्षा भी कराई जाए — यानी नैदानिक परिणामों के समय "मानव हस्तक्षेप" हो।

निष्कर्ष

एआई चिकित्सा लापरवाही को पूरी तरह खत्म नहीं करेगा - यह इसे बदल सकता है, और निश्चित रूप से इससे दायित्व विश्लेषण जटिल हो जाएगा। वर्तमान भारतीय कानूनी ढांचा, जो इलाज करने वाले चिकित्सक को नैदानिक जिम्मेदारी का केंद्र मानता है, निकट भविष्य में एआई से संबंधित चिकित्सा दायित्व दावों के लिए प्राथमिक ढांचा बना रहेगा। इसका अर्थ यह है कि जब तक कोई विशिष्ट नियामक और दायित्व ढांचा डेवलपर्स पर उस जोखिम का आनुपातिक हिस्सा नहीं डालता, तब तक डॉक्टर और अस्पताल एआई त्रुटियों के कानूनी जोखिम को वहन करेंगे।

इस बीच, वे अस्पताल और डॉक्टर जो एआई उपकरणों का सोच-समझकर उपयोग करते हैं—प्रदर्शन का सत्यापन करते हैं, कर्मचारियों को प्रशिक्षण देते हैं, नैदानिक निगरानी बनाए रखते हैं और निर्णय लेने की प्रक्रिया का दस्तावेजीकरण करते हैं—उन लोगों की तुलना में कहीं बेहतर स्थिति में हैं जो एआई के परिणामों को अचूक मानते हैं। एआई की सहायता से हुई त्रुटि से पीड़ित रोगी के पास उपचार उपलब्ध हैं। सवाल यह है कि इसका भुगतान कौन करेगा।

यदि आप एआई-सहायता प्राप्त निदान त्रुटि से पीड़ित रोगी हैं, या एआई शासन और देयता जोखिम पर मार्गदर्शन चाहने वाले अस्पताल या चिकित्सक हैं, हमारी चिकित्सा-कानूनी टीम से संपर्क करें विशेषज्ञों के मूल्यांकन के लिए।