India: केंद्र सरकार की सख्ती के बाद सोशल मीडिया प्लेटफॉर्म X (पूर्व में ट्विटर) ने अश्लील सामग्री को लेकर बड़ा कदम उठाया है। सरकार के निर्देशों का पालन करते हुए X ने अपने प्लेटफॉर्म से 600 अकाउंट डिलीट किए हैं और 3500 से अधिक आपत्तिजनक पोस्ट हटाई हैं। यह कार्रवाई उन कंटेंट पर की गई है, जिन्हें अश्लील, आपत्तिजनक या नियमों के खिलाफ माना गया था।
सरकार की ओर से आपत्ति जताए जाने के बाद X ने स्पष्ट किया है कि वह अपने प्लेटफॉर्म पर किसी भी प्रकार की अश्लील सामग्री को बढ़ावा नहीं देगा। कंपनी ने यह भी आश्वासन दिया है कि वह भारत के आईटी नियमों और स्थानीय कानूनों का पूरी तरह पालन करेगी।
इस खबर को भी पढ़ें : सोशल मीडिया और ड्रोन से होगी मोहर्रम पर निगरानी, प्रशासन ने की सख्त तैयारी
मीडिया रिपोर्ट्स के मुताबिक, केंद्रीय सूचना प्रौद्योगिकी मंत्रालय ने हाल ही में X को औपचारिक चेतावनी जारी की थी। मंत्रालय ने प्लेटफॉर्म पर मौजूद आपत्तिजनक सामग्री और एआई के दुरुपयोग को लेकर गंभीर चिंता जताई थी। चेतावनी में कहा गया था कि यदि 72 घंटे के भीतर आवश्यक कार्रवाई नहीं की गई, तो कंपनी को कानूनी कार्रवाई का सामना करना पड़ सकता है।
इस पूरे विवाद के केंद्र में X का एआई चैटबॉट ‘ग्रोक’ भी है। ग्रोक पर महिलाओं और बच्चों से जुड़ी अश्लील और अपमानजनक तस्वीरें बनाने व साझा करने के आरोप लगे हैं। मंत्रालय का कहना है कि एआई तकनीक का इस तरह का इस्तेमाल न सिर्फ गैरकानूनी है, बल्कि सामाजिक रूप से भी बेहद संवेदनशील और खतरनाक है।
गौरतलब है कि ग्रोक को लेकर सिर्फ भारत ही नहीं, बल्कि फ्रांस, ब्राजील, मलेशिया और यूरोपीय संघ जैसे कई देशों ने भी चिंता जाहिर की है। गैर-लाभकारी संगठन ‘एआई फोरेंसिक’ की एक रिपोर्ट में दावा किया गया है कि 25 दिसंबर से 1 जनवरी के बीच ग्रोक द्वारा बनाई गई करीब 20,000 तस्वीरों का विश्लेषण किया गया। इनमें से लगभग दो फीसदी तस्वीरों में 18 वर्ष से कम उम्र के लोगों को बिकनी या पारदर्शी कपड़ों में दिखाया गया था।
सरकार और वैश्विक संस्थाओं की बढ़ती निगरानी के बीच X पर दबाव बढ़ता जा रहा है कि वह एआई और कंटेंट मॉडरेशन को और सख्त बनाए, ताकि प्लेटफॉर्म सुरक्षित और जिम्मेदार बना रहे।
