मलेशिया और इंडोनेशिया ने रोका Elon Musk के AI चैटबॉट Grok का उपयोग, यौनिक दुरुपयोग की घटनाओं पर सख्ती

मलेशिया ने एलन मस्क की कंपनी xAI द्वारा विकसित जनरेटिव एआई चैटबॉट Grok की पहुंच पर अस्थायी प्रतिबंध लगा दिया है। यह निर्णय ऐसे समय पर लिया गया है जब इस टूल के माध्यम से अश्लील, यौनिक और गैर-सहमति आधारित छवियों को बनाने और प्रसारित करने की घटनाओं की सूचना सामने आई है। इससे पहले इंडोनेशिया ने शनिवार को Grok पर वैश्विक स्तर पर पहला प्रतिबंध लगाया था, जिससे यह स्पष्ट हो गया है कि दक्षिण-पूर्व एशिया में जनरेटिव एआई पर निगरानी तेज होती जा रही है।

मलेशिया और इंडोनेशिया ने Grok पर एक्शन लिया

रविवार को मलेशियाई संचार और मल्टीमीडिया आयोग (MCMC) ने घोषणा की कि उन्होंने Grok चैटबॉट की पहुंच को रोक दिया है। कारण बताया गया कि इस टूल का बार-बार गंभीर रूप से आपत्तिजनक, यौन स्पष्ट और अश्लील सामग्री बनाने के लिए दुरुपयोग किया गया है। रिपोर्ट के अनुसार, इन छवियों में महिलाओं और नाबालिगों को शामिल किया गया था, जिससे गंभीर कानूनी और नैतिक चिंताएं उत्पन्न हुईं।

वहीं इंडोनेशिया, जिसने शनिवार को यह प्रतिबंध लगाया, Grok पर प्रतिबंध लगाने वाला पहला देश बन गया है।

xAI की प्रतिक्रिया और सीमित सुविधाएं

विवाद बढ़ने के बाद, xAI ने घोषणा की कि वह Grok की छवि निर्माण और संपादन से संबंधित सुविधाओं को केवल भुगतान करने वाले उपभोक्ताओं तक सीमित कर रहा है। यह कदम उन खामियों को दूर करने के लिए उठाया गया है, जिनके कारण X प्लेटफ़ॉर्म पर उपयोगकर्ता गैर-सहमति वाली यौनिक छवियाँ बना पा रहे थे।

हालांकि, नियामकों का मानना है कि ये कदम पर्याप्त नहीं हैं और आगे दुरुपयोग की संभावना को नहीं रोकते।

नियामक चिंताएं और तकनीकी खामियां

MCMC ने बताया कि उन्होंने इस महीने की शुरुआत में X और xAI को नोटिस जारी किया था, जिसमें मजबूत तकनीकी नियंत्रण और सक्रिय मॉडरेशन प्रणाली लागू करने की मांग की गई थी। नियामक ने यह भी कहा कि कंपनियों की प्रतिक्रिया केवल उपयोगकर्ता रिपोर्टिंग पर आधारित थी और एआई के डिज़ाइन में मौजूद अंतर्निहित खतरों का समाधान नहीं किया गया।

आयोग ने कहा कि Grok पर प्रतिबंध तब तक जारी रहेगा जब तक प्रभावी सुरक्षा उपाय लागू नहीं हो जाते, हालांकि उन्होंने कंपनियों के साथ संवाद के लिए अपने दरवाजे खुले रखे हैं।

खबर से जुड़े जीके तथ्य

• मलेशिया में ऑनलाइन अश्लील और यौनिक सामग्री पर सख्त कानून लागू हैं।
• इंडोनेशिया पहला देश बना जिसने Grok पर अस्थायी प्रतिबंध लगाया।
• जनरेटिव एआई टूल्स सिंथेटिक छवियां बना सकते हैं, जिससे डीपफेक खतरे बढ़ते हैं।
• दुनिया भर में एआई प्लेटफॉर्म्स पर नियामक निगरानी तेज होती जा रही है।

एआई रेगुलेशन की वैश्विक चुनौती

मलेशिया, एक मुस्लिम बहुल देश होने के कारण, हाल के वर्षों में डिजिटल प्लेटफॉर्म्स की निगरानी को और कठोर बना रहा है। वहां 16 वर्ष से कम आयु के उपयोगकर्ताओं के लिए सोशल मीडिया की पहुंच को सीमित करने पर भी विचार हो रहा है।

Grok से जुड़ी यह घटना इस बात को उजागर करती है कि सरकारों को अब तकनीकी नवाचार और सुरक्षा के बीच संतुलन बनाना चुनौतीपूर्ण हो रहा है। जब तक जनरेटिव एआई टूल्स के लिए वैश्विक रूप से एक समान नियमन नहीं बनता, तब तक इस तरह के विवाद और दुरुपयोग की घटनाएं बढ़ती रहेंगी।