भारत में डीपफेक और एआई कंटेंट पर बड़ा एक्शन, 4 गुना ज्यादा मामलों पर कार्रवाई

नई दिल्ली: भारत में ऑनलाइन कंटेंट को ब्लॉक करने के मामलों में तेजी से बढ़ोतरी देखी जा रही है. इलेक्ट्रॉनिक्स और आईटी मंत्रालय यानी MeitY की और से पास किए गए ब्लॉकिंग ऑर्डर पिछले एक साल में लगभग दोगुने हो गए हैं. इसके पीछे एक बड़ी वजह सोशल मीडिया पर बढ़ते डीपफेक वीडियो और आर्टिफिशियल इंटेलिजेंस से बनाए गए गलत और आपत्तिजनक कंटेंट को माना जा रहा है. सरकारी अधिकारियों का कहना है कि अलग-अलग प्लेटफॉर्म पर इस तरह के कंटेंट की संख्या तेजी से बढ़ रही है, जिससे लोगों को गुमराह होने का खतरा भी बढ़ा है.

पहले संसद को बताया गया था कि साल 2023 में औसतन करीब 6,000 ब्लॉकिंग ऑर्डर जारी किए जा रहे थे, लेकिन यह संख्या 2024 में बढ़कर लगभग 12,600 हो गई और 2025 में यह बढ़कर करीब 24,300 तक पहुंच गई. यह आंकड़े दिसंबर तक के हैं. इससे साफ है कि सिर्फ दो साल में ही ब्लॉकिंग ऑर्डर की संख्या चार गुना के करीब पहुंच गई है. मंत्रालय के मुताबिक, सबसे ज्यादा ब्लॉकिंग ऑर्डर X यानी पहले ट्विटर पर डाले गए कंटेंट के लिए जारी किए गए. कुल ऑर्डर में से करीब 60 प्रतिशत इसी प्लेटफॉर्म से जुड़े थे. इसके बाद फेसबुक और इंस्टाग्राम का नंबर आता है, जहां लगभग 25 प्रतिशत कंटेंट को लेकर कार्रवाई हुई. यूट्यूब पर यह आंकड़ा करीब 5 प्रतिशत रहा.

सरकार को मिलने वाली शिकायतों में आधे से ज्यादा शिकायतें गृह मंत्रालय और विदेश मंत्रालय के अधिकारियों की तरफ से आई हैं. बाकी शिकायतें दूसरे मंत्रालयों, विभागों और आम लोगों की तरफ से आई हैं. इनमें कई मामले ऐसे हैं जहां नेताओं और राजनीतिक पार्टियों के नाम और तस्वीरों का गलत इस्तेमाल करके फर्जी पोस्ट बनाए गए. कुछ मामलों में सोशल मीडिया पर ऐसे वीडियो डाले गए, जिनमें एआई की मदद से किसी की आवाज बदलकर ऐसी बातें कही गईं जो उन्होंने कभी नहीं कहीं. कांग्रेस सांसद शशि थरूर ने भी इसी तरह की शिकायत की थी. उन्होंने बताया कि उनके डीपफेक वीडियो बनाए गए, जिनमें उनके पुराने इंटरव्यू के वीडियो पर नई नकली आवाज जोड़ दी गई थी. उन्होंने कहा कि यह कंटेंट पाकिस्तान से फैलाया जा रहा था और भारत में इसे ब्लॉक कर दिया गया है.

ऑनलाइन कंटेंट को ब्लॉक करने का अधिकार सरकार को आईटी एक्ट 2000 के सेक्शन 69A के तहत मिला हुआ है. इसके तहत सरकार कुछ खास कारणों से किसी भी ऑनलाइन कंटेंट तक लोगों की पहुंच रोक सकती है. इन कारणों में देश की सुरक्षा, सीमा की रक्षा, दूसरे देशों के साथ संबंध, कानून व्यवस्था बनाए रखना और अपराध की जांच शामिल हैं. इस प्रक्रिया के तहत एक “ब्लॉकिंग कमेटी” बनाई जाती है, जिसकी अगुवाई एक अधिकारी करता है. इसमें गृह मंत्रालय, कानून मंत्रालय, सूचना और प्रसारण मंत्रालय और CERT-In के अधिकारी शामिल होते हैं.कमेटी हर मामले को देखती है और उसके बाद फैसला लेती है. आखिरी मंजूरी मंत्रालय के सचिव देते हैं. इस दौरान सोशल मीडिया कंपनियों के अधिकारी भी अपनी बात रखने के लिए शामिल होते हैं.

इस कानून में एक इमरजेंसी प्रावधान भी है. इसके तहत अगर मामला बहुत जरूरी हो तो बिना पूरी कमेटी की बैठक के भी तुरंत कंटेंट ब्लॉक किया जा सकता है, लेकिन इसके बाद 48 घंटे के अंदर इस फैसले को कमेटी की मंजूरी लेना जरूरी होता है. अधिकारियों के मुताबिक, अब इस इमरजेंसी प्रावधान का इस्तेमाल पहले से ज्यादा हो रहा है, क्योंकि एआई से बने कंटेंट और डीपफेक तेजी से फैलते हैं और तुरंत रोकना जरूरी होता है.

सरकार इस बात पर भी विचार कर रही है कि सिर्फ MeitY ही नहीं, बल्कि गृह मंत्रालय, विदेश मंत्रालय, रक्षा मंत्रालय और सूचना प्रसारण मंत्रालय को भी सीधे ब्लॉकिंग ऑर्डर जारी करने का अधिकार दिया जाए. इससे भविष्य में कार्रवाई और तेजी से हो सकती है.