डीपफेक विवाद पर इंडोनेशिया ने लगाया ग्रोक एआई चैटबॉट पर प्रतिबंध
इंडोनेशिया ने एलन मस्क से जुड़ी एआई कंपनी xAI द्वारा विकसित ग्रोक चैटबॉट पर प्रतिबंध लगाकर एक ऐतिहासिक कदम उठाया है। यह निर्णय ऐसे समय आया है जब दुनिया भर में जनरेटिव एआई के दुरुपयोग और उसके सामाजिक‑नैतिक प्रभावों को लेकर चिंता बढ़ रही है। यह कदम विशेष रूप से गैर-सहमति वाले यौन डिपफेक्स के निर्माण को लेकर उठाया गया है, जिसे इंडोनेशिया ने मानवाधिकारों का उल्लंघन माना है।
इंडोनेशिया की कार्रवाई का कारण
इंडोनेशिया की संचार और डिजिटल मामलों की मंत्रालय ने ग्रोक पर अस्थायी प्रतिबंध की घोषणा की, यह कहते हुए कि इसमें यथोचित सुरक्षा उपायों की कमी है जिससे कि अश्लील और शोषणकारी इमेजरी को रोका जा सके। अधिकारियों ने स्पष्ट किया कि इस प्रकार की सामग्री देश के साइबर कानूनों और डिजिटल सुरक्षा मानकों का उल्लंघन है। मंत्रालय ने इसे नागरिकों के डिजिटल अधिकारों और सुरक्षा के लिए खतरा बताया।
ग्रोक और xAI को लेकर उठे सवाल
ग्रोक चैटबॉट को एलन मस्क की कंपनी xAI ने विकसित किया है। हालिया रिपोर्टों में सामने आया कि इसका उपयोग महिलाओं की अश्लील और छेड़छाड़ की गई तस्वीरें, और कुछ मामलों में नाबालिगों को शामिल करते हुए सामग्री बनाने के लिए किया गया। इसके बाद, xAI ने घोषणा की कि वह इमेज जनरेशन और एडिटिंग फीचर्स को सिर्फ भुगतान करने वाले ग्राहकों तक सीमित करेगा और सुरक्षा फिल्टर्स को सख्त बनाएगा।
अंतरराष्ट्रीय स्तर पर बढ़ती नजरदारी
इंडोनेशिया का यह कदम ऐसे समय आया है जब यूरोप और एशिया‑प्रशांत क्षेत्र में नियामक संस्थाएं एआई के दुरुपयोग को लेकर अधिक सक्रिय हो रही हैं। ऑस्ट्रेलिया और ब्रिटेन ने भी ग्रोक को लेकर चिंता जताई है। ऑस्ट्रेलियाई प्रधानमंत्री एंथनी अल्बनीज ने जनरेटिव एआई के यौन शोषण में प्रयोग को “टेक्नोलॉजी प्लेटफॉर्म्स की सामाजिक जिम्मेदारी की विफलता” कहा है।
खबर से जुड़े जीके तथ्य
- इंडोनेशिया ग्रोक एआई चैटबॉट पर प्रतिबंध लगाने वाला पहला देश बना है।
- इंडोनेशिया में गैर-सहमति वाले यौन डिपफेक्स को मानवाधिकार उल्लंघन के रूप में वर्गीकृत किया गया है।
- ग्रोक का विकास xAI द्वारा किया गया है, जो एलन मस्क के स्वामित्व वाली कंपनी है।
- ऑस्ट्रेलिया का ऑनलाइन सेफ्टी एक्ट सरकार को शोषणकारी सामग्री को हटाने के आदेश देने की शक्ति देता है।
एआई नियमन की दिशा में संकेत
यह प्रतिबंध यह दर्शाता है कि तेजी से विकसित हो रही जनरेटिव एआई तकनीकों के नियमन में वैश्विक चुनौतियां सामने आ रही हैं। अब सरकारें नवाचार और सुरक्षा के बीच संतुलन साधने की कोशिश कर रही हैं। ग्रोक से जुड़ा यह मामला भविष्य में कंटेंट मॉडरेशन, प्लेटफॉर्म उत्तरदायित्व और सीमा पार डिजिटल विनियमन जैसे विषयों पर नीति-निर्माण को प्रभावित कर सकता है।
इंडोनेशिया का यह कदम तकनीकी नवाचार की दौड़ में सामाजिक सुरक्षा और नैतिकता को प्राथमिकता देने की दिशा में एक मजबूत संकेत है।