एक्स ने ग्रोक एआई पर अश्लील तस्वीरें बनाने से रोक लगाई
डिजिटल डेस्क, नई दिल्ली। भारत सरकार की कड़ी चेतावनी के बाद अरबपति एलन मस्क के इंटरनेट मीडिया प्लेटफार्म एक्स ने अपने एआइ चैटबाट \“ग्रोक\“ को लोगों की अश्लील तस्वीरें बनाने से रोकने के लिए सख्त कदम उठाया है।
इसके लिए तकनीकी उपाय किए गए हैं, जिससे आपत्तिजनक कपड़ों में लोगों की तस्वीरें नहीं बन सकेंगी। यह कदम एआइ चैटबाट द्वारा बनाई गईं अश्लील डीपफेक तस्वीरों को लेकर भारी विरोध के बाद उठाया गया है।
एक्स ने अपने आधिकारिक सेफ्टी हैंडल पर बताया कि यह प्रतिबंध पेड सब्सक्राइबर्स समेत सभी यूजर्स पर लागू किया गया है। एक्स प्लेटफार्म पर ग्रोक अकाउंट के जरिये तस्वीर बनाने और उन्हें एडिट करने की सुविधा अब केवल पेड सब्सक्राइबर्स के लिए ही उपलब्ध होगी।
इसमें कहा गया है कि इससे सुरक्षा तंत्र और मजबूत होगा। इससे यह सुनिश्चित करने में मदद मिलेगी कि जो लोग ग्रोक अकाउंट का दुरुपयोग करके कानून या प्लेटफार्म की नीतियों का उल्लंघन करने की कोशिश करते हैं, उनकी जवाबदेही तय हो सके।
ग्रोक AI पर अश्लील तस्वीरें बनाने पर रोक
पोस्ट में कहा गया, \“अब हम उन सभी यूजर्स की ग्रोक अकाउंट और ग्रोक इन एक्स में बिकनी, अंत:वस्त्र और इसी तरह के परिधानों में लोगों की तस्वीरें बनाने की क्षमता को भौगोलिक रूप से ब्लाक करते हैं, जहां यह अवैध है।\“
अमेरिका आधारित एक्स ने बताया, \“उसने ग्रोक अकाउंट को बिकनी जैसे आपत्तिजनक कपड़ों में वास्तविक लोगों की तस्वीरों को संपादित करने से रोकने के लिए तकनीकी उपाय लागू किए हैं।
यह प्रतिबंध पेड सब्सक्राइबर्स समेत सभी यूजर्स पर लागू होता है।\“ एक्स ने यह भी कहा कि वह सभी के लिए एक सुरक्षित प्लेटफार्म प्रदान करने के लिए प्रतिबद्ध है और बाल यौन शोषण, अश्लीलता और यौन सामग्री को बिल्कुल भी बर्दाश्त नहीं किया जाएगा।
दुनिया भर में ग्रोक पर बढ़ता जा रहा दबाव
भारत समेत दुनिया भर की सरकारों की ओर से ग्रोक पर दबाव बढ़ता जा रहा है, क्योंकि नियामक संस्थाएं सामग्री नियंत्रण, डाटा सुरक्षा और अश्लील तस्वीरों को लेकर जनरेटिव एआइ इंजन की गहन जांच कर रही हैं।
हालिया दिनों में ये तस्वीरें एक्स पर तेजी से फैल रही हैं। भारत के अलावा ब्रिटेन और यूरोपीय यूनियन ने भी ग्रोक डीपफेक तस्वीरों को लेकर सवाल उठाए हैं।
भारत ने अश्लील सामग्री हटाने के दिए थे निर्देश
इलेक्ट्रानिक्स एवं आइटी मंत्रालय ने दो जनवरी को एक्स को एआइ आधारित अश्लील, आपत्तिजनक और गैर-कानूनी कंटेंट हटाने को लेकर निर्देश दिए थे। इस पर उससे 72 घंटे में विस्तृत कार्रवाई रिपोर्ट मांगी गई थी।
ऐसा नहीं करने पर कार्रवाई की चेतावनी दी गई थी। एक्स ने हाल ही में अपनी गलती मानी और लगभग 3500 कंटेंट हटाए व 600 से ज्यादा अकाउंट बंद किए। |
