AI का खौफनाक चेहरा: 'एआई' से बन रही महिलाओं की अश्लील तस्वीरें, भारत में डिजिटल संकट गहराया

दुनिया भर में आर्टिफिशियल इंटेलिजेंस (AI) की बढ़ती तकनीक जहाँ एक ओर संभावनाओं के नए द्वार खोल रही है, वहीं दूसरी ओर इसके दुरुपयोग ने भारत में एक गंभीर संकट खड़ा कर दिया है। खासकर महिलाओं की सुरक्षा के संदर्भ में, एआई आधारित उपकरणों का गलत इस्तेमाल चिंता का विषय बन गया है। हाल ही में एक्स (पूर्व में ट्विटर) प्लेटफॉर्म पर 'ग्रोक एआई' (Grok AI) के माध्यम से महिलाओं की अश्लील और फर्जी तस्वीरें बनाए जाने के कई मामले सामने आए हैं, जिसने पूरे देश को सकते में डाल दिया है।

आईटी मंत्रालय ने एक्स को दिया तत्काल कार्रवाई का निर्देश

महिलाओं की आपत्तिजनक तस्वीरों के मामले सामने आने के बाद भारत सरकार का आईटी मंत्रालय (Ministry of IT) हरकत में आया है। मंत्रालय ने 'एक्स' (X) प्लेटफॉर्म को इस मामले पर तत्काल कार्रवाई करने का कड़े निर्देश दिए हैं। सरकार का मानना है कि ऐसे प्लेटफॉर्म को अपने यूजर्स की सुरक्षा सुनिश्चित करनी चाहिए और एआई के दुरुपयोग को रोकना चाहिए। यह घटना डिजिटल प्लेटफॉर्म पर कंटेंट मॉडरेशन और एआई के नैतिक उपयोग की आवश्यकता को रेखांकित करती है।

मौजूदा आईटी कानून अपर्याप्त: साइबर विशेषज्ञों ने जताई चिंता

साइबर विशेषज्ञ अमित दुबे ने इस मामले की गंभीरता पर प्रकाश डालते हुए कहा कि भारतीय समाज में 'चरित्र के नुकसान' को अत्यंत संवेदनशील माना जाता है। ऐसे में, एआई के जरिए महिलाओं की अश्लील या फर्जी तस्वीरें बनाना उनके सम्मान और प्रतिष्ठा को गहरा ठेस पहुँचाता है। उन्होंने चिंता व्यक्त की कि मौजूदा आईटी कानून, जिसमें पहचान की चोरी (identity theft) जैसे अपराधों के लिए अधिकतम तीन साल की सजा का प्रावधान है, एआई के माध्यम से होने वाले इन गंभीर अपराधों से निपटने के लिए अपर्याप्त है।

कानून में संशोधन की तत्काल आवश्यकता

विशेषज्ञों का मानना है कि एआई के तेजी से बढ़ते दुरुपयोग को रोकने और महिलाओं की सुरक्षा सुनिश्चित करने के लिए भारतीय आईटी कानूनों में तत्काल संशोधन की आवश्यकता है। एआई-जनित आपत्तिजनक कंटेंट, डीपफेक और पहचान के दुरुपयोग जैसे नए युग के साइबर अपराधों को रोकने के लिए सख्त कानून और कड़ी सजा का प्रावधान होना चाहिए। यह न केवल अपराधियों को हतोत्साहित करेगा, बल्कि डिजिटल स्पेस को महिलाओं के लिए सुरक्षित बनाने में भी मदद करेगा।