Grok AI Obscene Content: आजकल सोशल मीडिया पर AI टूल्स के जरिए बनी अश्लील और आपत्तिजनक तस्वीरें बहुत बड़ी समस्या बन गई हैं। इसी बीच एलन मस्क की कंपनी X (जिसे पहले ट्विटर कहा जाता था) ने एक बड़ा कदम उठाया है। भारत सरकार के दबाव में X ने अपनी AI चैटबॉट Grok से जुड़े अश्लील कंटेंट पर सख्त कार्रवाई की है। रिपोर्ट्स के मुताबिक, प्लेटफॉर्म ने 3,500 से ज्यादा पोस्ट ब्लॉक कर दी हैं और 600 से अधिक अकाउंट्स को हमेशा के लिए डिलीट कर दिया है। यह फैसला 10-11 जनवरी 2026 को सामने आया, जब भारत के इलेक्ट्रॉनिक्स और सूचना प्रौद्योगिकी मंत्रालय (MeitY) ने X को नोटिस भेजा था।
क्या है पूरा मामला? Grok AI का विवाद/Grok AI Obscene Content
Grok, एलन मस्क की कंपनी xAI द्वारा बनाया गया एक AI चैटबॉट है, जो X प्लेटफॉर्म पर उपलब्ध है। पिछले कुछ महीनों में Grok में एक फीचर आया था, जिसे “Grok Imagine” या “Spicy Mode” कहा जाता है। इस मोड में यूजर्स AI से तस्वीरें जनरेट करवा सकते थे, जिसमें कपड़े उतारने, सेक्सुअल पोज़ में बदलने जैसी चीजें शामिल थीं।
समस्या तब शुरू हुई जब लोग बिना किसी की सहमति के महिलाओं, सेलिब्रिटीज और यहां तक कि बच्चों की पुरानी तस्वीरों को अश्लील बना रहे थे। ये तस्वीरें X पर वायरल हो रही थीं, जिससे बहुत बड़ा विवाद खड़ा हो गया। भारत में ही नहीं, इंडोनेशिया, यूके, फ्रांस और मलेशिया जैसे देशों में भी Grok पर सवाल उठे। कुछ रिपोर्ट्स में यह भी कहा गया कि AI से बच्चों की सेक्शुअल इमेजरी (CSAM) बनाई जा रही थी, जो पूरी तरह गैरकानूनी है।
भारत सरकार ने X को 72 घंटे के अंदर एक्शन टेकन रिपोर्ट (ATR) मांगी। सरकार ने साफ कहा कि प्लेटफॉर्म पर अश्लील, नग्न, अश्लील और सेक्शुअली एक्सप्लिसिट कंटेंट को जनरेट करने, शेयर करने या अपलोड करने की अनुमति नहीं दी जाएगी।
X ने क्या किया? एक्शन की डिटेल्स
सरकारी सूत्रों के अनुसार, X ने अपनी गलती मान ली है। कंपनी ने कहा कि वह भारतीय कानूनों का पूरी तरह पालन करेगी। अब तक की कार्रवाई में:
- 3,500 से ज्यादा पोस्ट और कंटेंट ब्लॉक किए गए हैं।
- 600+ अकाउंट्स को परमानेंटली डिलीट कर दिया गया है। ये अकाउंट्स वो थे जो Grok के जरिए बनी अश्लील इमेजरी को पोस्ट कर रहे थे।
- कंपनी ने भविष्य में ऐसे कंटेंट को रोकने के लिए मजबूत सेफगार्ड्स लगाने का वादा किया है।
- एलन मस्क ने खुद कहा है कि “Grok से इललीगल कंटेंट बनाने वालों को वही सजा मिलेगी, जैसे अगर वो खुद इललीगल कंटेंट अपलोड करें।” यानी परमानेंट सस्पेंशन या बैन।
यह कार्रवाई इसलिए भी महत्वपूर्ण है क्योंकि X पहले से ही कंसेंशुअल (सहमति से बने) एडल्ट कंटेंट को अलाउ करता है, लेकिन नॉन-कंसेंशुअल, इललीगल या बच्चों से जुड़ा कंटेंट बिल्कुल बर्दाश्त नहीं करता। Grok के मामले में समस्या तब बढ़ी जब AI टूल को गलत तरीके से इस्तेमाल किया गया।
दुनिया भर में क्या हो रहा है?
यह सिर्फ भारत की बात नहीं है। जनवरी 2026 की शुरुआत में Grok पर ग्लोबल बैकलैश हुआ। यूजर्स ने हजारों सेक्शुअलाइज्ड इमेजेस बिना सहमति के बनाईं और शेयर कीं। कुछ मामलों में बचपन की तस्वीरों को एडिट करके अश्लील बनाया गया।
- इंडोनेशिया ने Grok को अस्थायी रूप से सस्पेंड कर दिया।
- यूरोपियन कमीशन ने जांच शुरू की और X से 2026 के अंत तक सारे डॉक्यूमेंट्स रखने को कहा।
- अमेरिका में भी सीनेटर्स ने Apple और Google से Grok ऐप को ऐप स्टोर से हटाने की मांग की।
एलन मस्क ने कहा कि आलोचक सिर्फ “सेंसरशिप” का बहाना ढूंढ रहे हैं, लेकिन कंपनी ने साफ किया कि इललीगल कंटेंट पर जीरो टॉलरेंस है।
निष्कर्ष
X अब Grok के इमेज जनरेशन फीचर को ज्यादातर पेड यूजर्स तक सीमित कर चुका है। फ्री यूजर्स के लिए यह बंद हो गया है, ताकि दुरुपयोग कम हो। लेकिन एक्सपर्ट्स कहते हैं कि AI टूल्स के साथ ऐसी समस्याएं बढ़ती जा रही हैं।
यूजर्स को सलाह है:
- कभी भी बिना सहमति किसी की तस्वीर एडिट न करवाएं।
- अगर कोई अश्लील कंटेंट दिखे तो रिपोर्ट करें।
- बच्चों की सुरक्षा के लिए सख्त नियमों का पालन करें।
