एजेन्सी– मलेसिया र इन्डोनेसिया एलन मस्कको एक्सएआईद्वारा विकसित आर्टिफिसियल इन्टेलिजेन्स च्याटबोट ग्रोकलाई अवरुद्ध गर्ने पहिलो देश बनेका छन् । अधिकारीहरूका अनुसार ग्रोकलाई यौन स्पष्ट तथा सहमति बिना तयार गरिएका छविहरू उत्पादन गर्न दुरुपयोग गरिँदै आएको थियो ।

यी निर्णयहरूले वास्तविक देखिने तस्बिर, आवाज र पाठ उत्पादन गर्न सक्ने जेनेरेटिभ एआई उपकरणहरूको दुरुपयोगप्रति विश्वव्यापी रूपमा बढ्दो चिन्तालाई उजागर गरेको छ । 

मस्कको सामाजिक सञ्जाल प्लेटफर्म एक्समार्फत प्रयोग गर्न सकिने ग्रोक च्याटबोटलाई बिकिनीमा महिलाहरूको चित्रण, यौन स्पष्ट पोजहरू र बालबालिकासमेत समेटिएका हेरफेर गरिएका तस्बिरहरू सिर्जना गरेको आरोप लागेको छ ।

दक्षिणपूर्वी एसियाका यी दुई मुलुकका नियामक निकायहरूले विद्यमान सुरक्षा व्यवस्थाले विशेष गरी महिला र नाबालिगहरू समावेश भएका नक्कली अश्लील सामग्री उत्पादन र प्रसार रोक्न नसकेको बताएका छन् । इन्डोनेसियाली सरकारले शनिबार ग्रोकमा अस्थायी पहुँच अवरुद्ध गर्‍यो भने मलेसियाले आइतबार त्यही कदम चाल्यो ।

इन्डोनेसियाका सञ्चार तथा डिजिटल मामिला मन्त्री मेउत्या हफिदले एक विज्ञप्तिमा गैर–सहमति यौन डिपफेकलाई मानव अधिकार, गरिमा र डिजिटल क्षेत्रमा नागरिकहरूको सुरक्षामाथिको गम्भीर उल्लङ्घनका रूपमा सरकारले लिएको स्पष्ट पारे। मन्त्रालयका अनुसार यो कदम महिला, बालबालिका र समग्र समाजलाई एआई प्रयोग गरी तयार गरिने नक्कली अश्लील सामग्रीबाट जोगाउने उद्देश्यले उठाइएको हो ।

डिजिटल स्पेस पर्यवेक्षणका महानिर्देशक अलेक्ज्याण्डर सबरले प्रारम्भिक अध्ययनले ग्रोकमा इन्डोनेसियाली नागरिकहरूको वास्तविक तस्बिर प्रयोग गरी अश्लील सामग्री बनाउन र फैलाउन रोक्ने प्रभावकारी सुरक्षा उपायको अभाव देखाएको बताए। उनका अनुसार सहमति बिना तस्बिर हेरफेर वा साझा गर्दा गोपनीयता र छवि अधिकार उल्लङ्घन हुनुका साथै पीडितको मानसिक, सामाजिक र प्रतिष्ठागत क्षति हुने जोखिम बढ्छ ।

क्वालालम्पुरमा, मलेसियाली सञ्चार तथा मल्टिमेडिया आयोगले आइतबार ग्रोकमाथि अस्थायी प्रतिबन्ध लगाउने आदेश दिएको छ । आयोगले महिला र नाबालिगहरू संलग्न सामग्रीसहित अश्लील, यौन स्पष्ट र गैर–सहमतिमा हेरफेर गरिएका तस्बिरहरू उत्पादन गर्न उपकरणको ‘बारम्बार दुरुपयोग’ भएको जनाएको छ ।

नियामकका अनुसार यस महिना एक्स कर्प र एक्सएआईलाई पठाइएका सूचनामा कडा सुरक्षा उपायको माग गरिएको थियो, तर प्राप्त प्रतिक्रिया मुख्यतः प्रयोगकर्ता रिपोर्टिङ संयन्त्रमै निर्भर रहेको पाइएको छ । कानूनी र नियामक प्रक्रिया चलिरहँदा रोकथामका रूपमा प्रतिबन्ध लगाइएको र प्रभावकारी सुरक्षा प्रणाली लागू नभएसम्म पहुँच खुला नहुने बताइएको छ ।

सन् २०२३ मा सुरु गरिएको ग्रोक एक्स प्लेटफर्ममा निःशुल्क प्रयोग गर्न सकिन्छ । प्रयोगकर्ताहरूले प्रश्न सोध्न, आफ्नै पोस्टहरू ट्याग गर्न वा अरूको पोस्टमा जवाफ दिन सक्छन् । गत गर्मीमा कम्पनीले ‘ग्रोकिनेजिन’ नामक छवि उत्पादन सुविधा थपेको थियो, जसमा तथाकथित ‘मसलायुक्त मोड’ समावेश थियो, जसले वयस्क सामग्री उत्पादन गर्न सक्थ्यो ।

दक्षिणपूर्वी एसियामा लगाइएका यी प्रतिबन्धहरू युरोपेली सङ्घ (इयु), बेलायत, भारत र फ्रान्सलगायत क्षेत्रमा ग्रोकमाथि बढ्दो निगरानीका बीच आएका हुन् । 

हालै यौनकृत डिपफेकको विषयमा विश्वव्यापी आलोचना भएपछि ग्रोकले भुक्तानी गर्ने प्रयोगकर्ताहरूका लागि छवि उत्पादन र सम्पादनमा केही सीमितता लगाए पनि आलोचकहरूले ती उपाय पर्याप्त नभएको बताइरहेका छन् ।