गूगल को वापस लेना पड़ा नया धांसू AI फीचर, जानें क्या है कारण

डेस्क: गूगल ने गूगल अर्थ में शुरू किया गया नया एआई इमेज जनरेशन फीचर लॉन्च के महज एक दिन बाद वापस ले लिया. इस फीचर का इस्तेमाल करके कुछ यूजर्स ने आतंकी हमलों, औद्योगिक हादसों और हिंसा से जुड़ी फर्जी सैटेलाइट तस्वीरें बनानी शुरू कर दी थीं. इसके बाद सोशल मीडिया पर इसकी आलोचना हुई और गलत जानकारी फैलने की आशंका जताई गई. गूगल ने कहा कि अब इस फीचर को मजबूत सुरक्षा उपायों के साथ दोबारा तैयार किया जाएगा.

गूगल ने 30 जुलाई को गूगल अर्थ में एआई इमेज जनरेशन फीचर पेश किया था. इस फीचर के जरिए यूजर टेक्स्ट प्रॉम्प्ट देकर गूगल अर्थ की उपलब्ध सैटेलाइट तस्वीरों के आधार पर नई एआई इमेज तैयार कर सकते थे. लेकिन लॉन्च के करीब एक दिन बाद ही कंपनी ने इसे वापस लेने का फैसला किया. इसकी वजह कुछ यूजर्स द्वारा इस फीचर का गलत इस्तेमाल करना और सोशल मीडिया पर बढ़ती आलोचना रही.

रिपोर्ट के मुताबिक कुछ यूजर्स ने इस फीचर की मदद से आतंकी हमलों, औद्योगिक हादसों और हिंसा से जुड़ी बेहद वास्तविक दिखने वाली फर्जी सैटेलाइट तस्वीरें तैयार कर सोशल मीडिया पर साझा कीं. इससे चिंता जताई गई कि ऐसी तस्वीरों का इस्तेमाल प्रचार, गलत जानकारी फैलाने या चल रहे संघर्ष और प्राकृतिक आपदाओं को लेकर लोगों को गुमराह करने के लिए किया जा सकता है. यह फीचर गूगल के नैनो बनाना 2 एआई मॉडल पर आधारित था, जिसे लॉन्च के बाद काफी लोकप्रियता मिली थी.

गूगल ने कहा कि लोग दुनिया को विश्वसनीय तरीके से देखने के लिए गूगल अर्थ पर भरोसा करते हैं. कंपनी के अनुसार कई जियोस्पेशियल प्रोफेशनल इस फीचर का उपयोग अच्छे कामों के लिए कर रहे थे, लेकिन कुछ एआई से बनी तस्वीरें कंपनी की नीतियों का उल्लंघन करती हुई नजर आईं. इसलिए फिलहाल इस फीचर को वापस लिया गया है और अब मजबूत सुरक्षा उपाय तैयार किए जा रहे हैं. गूगल ने यह भी स्पष्ट किया कि एआई से बनी तस्वीरें दूसरे यूजर्स को गूगल अर्थ के आधिकारिक अनुभव का हिस्सा नहीं दिखाई देती थीं और सभी एआई इमेज पर वाटरमार्क भी लगाया जाता है.