टीनएजर्स की ऑनलाइन सुरक्षा को मिली नई ताकत Meta AI करेगा खतरनाक बातचीत की पहचान और भेजेगा पैरेंट्स को सूचना

नई दिल्ली । डिजिटल दुनिया(digital world) में बच्चों और किशोरों(children and adolescents) की सुरक्षा को लेकर लगातार बढ़ती चिंताओं के बीच Meta ने एक महत्वपूर्ण कदम(children and adolescents) उठाया है। फेसबुक और इंस्टाग्राम(Facebook and Instagram) की पैरेंट कंपनी Meta ने नया AI आधारित सुरक्षा फीचर पेश किया है जिसका उद्देश्य टीनएजर्स को मानसिक संकट और आत्मघाती विचारों जैसी गंभीर परिस्थितियों में समय रहते मदद उपलब्ध कराना है। यह फीचर विशेष रूप से उन मामलों में सक्रिय होगा जब कोई किशोर Meta AI चैटबॉट से आत्महत्या या खुद को नुकसान पहुंचाने जैसे संवेदनशील विषयों पर बातचीत करेगा। ऐसे संकेत मिलने पर सिस्टम संभावित जोखिम की पहचान करेगा और माता पिता को अलर्ट भेजेगा ताकि वे समय रहते बच्चे से संवाद कर सकें और आवश्यक सहायता दिला सकें।

Meta के अनुसार यह नया फीचर आधुनिक आर्टिफिशियल इंटेलिजेंस तकनीक पर आधारित है जो चैट के दौरान इस्तेमाल किए गए शब्दों और बातचीत के पैटर्न का विश्लेषण करता है। यदि सिस्टम को यह संकेत मिलता है कि किशोर मानसिक तनाव में है या खुद को नुकसान पहुंचाने जैसी बातें कर रहा है तो वह पैरेंटल सुपरविजन अकाउंट के माध्यम से माता पिता को सूचना भेजेगा। इस अलर्ट का उद्देश्य केवल चेतावनी देना नहीं बल्कि अभिभावकों को यह समझाना भी है कि ऐसी स्थिति में बच्चे से किस तरह संवेदनशील तरीके से बात करनी चाहिए और जरूरत पड़ने पर विशेषज्ञों की मदद कैसे लेनी चाहिए।

कंपनी ने स्पष्ट किया है कि इस फीचर को तैयार करते समय बच्चों की निजता का पूरा ध्यान रखा गया है। माता पिता को पूरी चैट नहीं दिखाई जाएगी बल्कि केवल संभावित खतरे की सूचना और जरूरी मार्गदर्शन उपलब्ध कराया जाएगा। Meta का कहना है कि सुरक्षा और गोपनीयता के बीच संतुलन बनाए रखना उसकी प्राथमिकता है ताकि किशोरों का भरोसा भी कायम रहे और किसी गंभीर स्थिति में परिवार समय रहते सक्रिय हो सके।

दरअसल पिछले कुछ वर्षों में कई ऐसे मामले सामने आए हैं जिनमें किशोरों ने AI चैटबॉट को अपना करीबी साथी मानकर मानसिक तनाव आत्महत्या या खुद को नुकसान पहुंचाने जैसे विषयों पर खुलकर बातचीत की। इन घटनाओं ने तकनीकी कंपनियों के सामने नई चुनौती खड़ी कर दी। इसी को देखते हुए Meta ने यह सुरक्षा फीचर विकसित किया है ताकि AI केवल बातचीत का माध्यम न रहकर जरूरत पड़ने पर सुरक्षा का भी महत्वपूर्ण साधन बन सके।

फिलहाल यह सुविधा अमेरिका ब्रिटेन कनाडा और ऑस्ट्रेलिया में इंस्टाग्राम पैरेंटल सुपरविजन का उपयोग करने वाले परिवारों के लिए शुरू की गई है। कंपनी का कहना है कि वर्ष के अंत तक इसे अन्य देशों में भी चरणबद्ध तरीके से उपलब्ध कराया जाएगा। इसके साथ ही Meta AI में ऐसे अतिरिक्त सुरक्षा उपाय भी जोड़े जा रहे हैं जो किशोरों को संवेदनशील और हानिकारक सामग्री से दूर रखने में मदद करेंगे।

विशेषज्ञों का मानना है कि तकनीक का जिम्मेदार उपयोग बच्चों की सुरक्षा को नई दिशा दे सकता है लेकिन किसी भी AI सिस्टम की सफलता माता पिता की सक्रिय भागीदारी पर भी निर्भर करती है। यदि किसी बच्चे के व्यवहार में बदलाव दिखाई दे या ऐसा कोई अलर्ट मिले तो उसे डांटने के बजाय समझने और भावनात्मक सहयोग देने की जरूरत होती है। Meta का यह नया फीचर इसी सोच के साथ विकसित किया गया है ताकि डिजिटल प्लेटफॉर्म पर बच्चों की सुरक्षा पहले से अधिक मजबूत बनाई जा सके।