‘हमने भी देखी अपनी मॉर्फ तस्‍वीरें’, AI के दुरुपयोग पर CJI गवई भी चिंंचित

नई दिल्ली: आर्टिफ‍िश‍ियल इंटेल‍िजेंस (AI) से कब क्‍या कर द‍िया जाए, कुछ कहा नहीं जा सकता. हालात तो यहां तक हो गए हैं क‍ि सुप्रीम कोर्ट (Supreme Court) के जज (Judge) भी इससे परेशान हैं. तभी सीजेआई बीआर गवई (CJI BR Gavai) ने भी सोमवार को AI के गलत इस्तेमाल पर चिंता जताई है. GenAI पर दाख‍िल याच‍िका पर सुनवाई करते हुए सीजेआई कहा, हां, हां… हमने भी मॉर्फ किए गए अपने फोटो देखे हैं. यह टिप्पणी उन्होंने तब की जब अदालत में यह मुद्दा उठा कि किस तरह AI और डिजिटल टूल्स (Digital Tools) का दुरुपयोग कर न्यायपालिका और जजों को निशाना बनाया जा रहा है.

हाल के वर्षों में कई मौकों पर जजों की फर्जी प्रोफाइल, एडिटेड वीडियो और झूठे बयान सोशल मीडिया पर फैलाए गए हैं. सुप्रीम कोर्ट में जूता फेंकने के कई वीडियो भी सोशल मीडिया में वायरल हो रहे हैं, जो पूरी तरह फर्जी हैं. सीजेआई की चिंता शायद ऐसी ही चीजों को लेकर थी. यह साफ बताती है क‍ि AI और डिजिटल टेक्नोलॉजी के दुरुपयोग से न्यायपालिका भी अछूती नहीं है.

याच‍िकाकर्ता कार्तिकेय रावल ने कोर्ट से अनुरोध किया कि जूड‍िश‍ियरी GenAI के उपयोग के लिए एक पॉल‍िसी और एक ढांचा होना चाह‍िए, ताकि इसके दुरुपयोग को रोका जा सके. रावल ने कहा क‍ि ट्रेड‍िशनल AI और GenAI में फर्क समझना जरूरी है. ट्रेड‍िशनल AI केवल डेटा के विश्लेषण पर आधारित होता है, जबकि GenAI नया डेटा, फोटो, टेक्स्ट और यहां तक कि कोड भी तैयार कर सकता है, जिससे कानूनी प्रणाली में भ्रम और अनिश्चितता पैदा हो सकती है.

याचिका में सबसे बड़ा खतरा बताया गया है कि GenAI को ब्लैक बॉक्स टेक्नोलॉजी कहा जाता है यानी इसके अंदर डेटा प्रोसेसिंग कैसे होती है, यह पारदर्शी नहीं है. याचिकाकर्ता के मुताबिक, GenAI के ‘ब्लैक बॉक्स’ स्वरूप और उसकी अपारदर्शिता भारतीय न्याय व्यवस्था में अस्पष्टता और भ्रम पैदा कर सकती है. उन्होंने चेतावनी दी कि GenAI की तकनीक हैलुसिनेशन (Hallucination) की स्थिति पैदा कर सकती है यानी सिस्टम ऐसा डेटा या फैसला गढ़ सकता है जो वास्तविक नहीं, बल्कि काल्पनिक हो. ऐसी मनगढ़ंत जानकारी, फर्जी केस लॉ, और पूर्वाग्रह से भरे निर्णय Article 14 (समानता के अधिकार) का उल्लंघन होंगे.