एलन मस्क की एआई कंपनी xAI के चैटबॉट Grok पर दुनिया के कई देशों ने कड़ा रुख अपनाया है। अश्लील कंटेंट और डीपफेक तस्वीरों के विवाद के चलते इस प्लेटफॉर्म पर प्रतिबंधों का दौर शुरू हो गया है।
क्या एआई (AI) की आजादी अब मर्यादाओं की लक्ष्मण रेखा लांघने लगी है? एलन मस्क(Elon Mask)का महत्वाकांक्षी एआई प्लेटफॉर्म ‘ग्रोक’ (Grok) इस समय वैश्विक आक्रोश की आग में झुलस रहा है। ‘स्पाइसी मोड’ के जरिए महिलाओं और बच्चों की आपत्तिजनक डीपफेक (Deep Fake) तस्वीरें बनाने की सुविधा ने इसे दुनिया के निशाने पर ला खड़ा किया है। जहां दो प्रमुख देशों ने इसे पूरी तरह ‘ब्लॉक’ कर दिया है, वहीं भारत (India) और यूरोपीय संघ (EU) जैसे पावरहाउस इसे जड़ से प्रतिबंधित करने की तैयारी में हैं। मस्क के लिए यह सिर्फ एक तकनीकी खराबी नहीं, बल्कि उनके सबसे बड़े दांव पर अस्तित्व का संकट बन गया है।
इंडोनेशिया और मलेशिया में Grok पर बैन
X पर एक पोस्ट में मलेशियाई कम्युनिकेशंस एंड मल्टीमीडिया कमीशन (MCMC) के आधिकारिक हैंडल ने एक बयान जारी किया। उन्होंने कहा कि एलन मस्क के मालिकाना हक वाले सोशल मीडिया प्लेटफॉर्म द्वारा जरूरी सुरक्षा उपाय लागू ना किए जाने के चलते देश में Grok को अस्थायी रूप से ब्लॉक किया जा रहा है।
वहीं, इंडोनेशिया के कम्युनिकेशन और डिजिटल मिनिस्टर Meutya Hafid ने ग्रोक की सर्विस को बैन करने को लेकर आधिकारिक स्टेटमेंट जारी की है। मलेशिया सरकार की एजेंसी MCMC ने कहा कि ग्रोक के जरिए पोर्नोग्राफिक और अश्लील कंटेंट जेनरेट किए जाने की घटनाएं सामने आ रही थी। एआई प्लेटफॉर्म ने इसे रोकने के लिए कोई ठोस कदम नहीं उठाए हैं।
डीपफेक पर नहीं लग रहा रोक
ग्रोक एआई के जरिए जारी किए जाने वाले आपत्तिजनक कंटेंट में महिलाओं और बच्चों की तस्वीरें भी शामिल हैं, जो कानून का उल्लंघन है। इसे लेकर X और xAI दोनों एंटिटी को 3 जनवरी और 8 जनवरी को नोटिस भेजा गया है और प्रभावी कदम उठाने के लिए कहा गया है। MCMC ने आगे कहा कि X पर केवल यूजर-इनिशिएटिव रिपोर्टिंग मैकेनिज्म पर फोकस किया जाता है। यहां एआई टूल्स के जरिए होने वाले डायरेक्ट रिस्क के बारे में कोई मैकेनिज्म नहीं है, जिसकी वजह से एआई के जरिए रियल दिखने वाले डीपफेक क्रिएट किए जाते हैं। इसे लेकर प्लेटफॉर्म पर टेम्पोररी बैन लगाया गया है।
भारत सरकार की कड़ी चेतावनी
भारत के आईटी मंत्रालय (MeitY) ने मस्क की कंपनी को सख्त नोटिस जारी कर (Action Taken Report) मांगी है। सरकार ने स्पष्ट किया है कि यदि Grok के जरिए आपत्तिजनक कंटेंट पर रोक नहीं लगी, तो भारत में भी इसके खिलाफ दंडात्मक कार्रवाई और प्रतिबंध संभव है।
Grok पर लगा यह प्रतिबंध एआई तकनीक के विनियमन (Regulation) की बहस को एक नए स्तर पर ले गया है। इंडोनेशिया और मलेशिया की कार्रवाई ने स्पष्ट कर दिया है कि एआई की “अभिव्यक्ति की स्वतंत्रता” किसी देश के कानूनों और व्यक्तिगत गरिमा से ऊपर नहीं हो सकती। यदि मस्क जल्द ही अपने सुरक्षा ‘गार्डरेल्स’ को मजबूत नहीं करते, तो Grok के लिए वैश्विक बाजार के दरवाजे एक-एक करके बंद हो सकते हैं।
