AI से अश्लील तस्वीरें बनाने पर बैन, Grok को लेकर X ने कसे नियम

AI से अश्लील तस्वीरें बनाने पर बैन, Grok को लेकर X ने कसे नियम टेक्नोलॉजी डेस्क, नई दिल्ली। Elon Musk की सोशल मीडिया कंपनी X और उसका AI चैटबॉट Grok इन दिनों गंभीर आलोचना का सामना कर रहा है। आरोप है कि कंपनी द्वारा सेफ्टी गार्डरेल्स लागू करने के बावजूद Grok का इस्तेमाल गंदी तस्वीरें बनाने में किया जा रहा है। इसी बीच अब माइक्रोब्लॉगिंग प्लेटफॉर्म X ने अपने AI चैटबॉट Grok को लेकर कड़े कदम उठाए हैं। जी हां, अब कंपनी ने उन देशों में रियल लोगों की गंदी तस्वीरें बनाने पर बैन लगा दिया है जहां कानून इसकी इजाजत नहीं देता। यह फैसला Grok के जरिए बने अश्लील डीपफेक्स को लेकर हुए भारी विरोध के बाद लिया गया है। चलिए इसके बारे में विस्तार से जानते हैं। ब्लॉक की गई सुविधा X ने अपने ‘Safety’ हैंडल पर इस बात की जानकारी दी है कि अब Grok के जरिए रियल लोगों को बिकिनी, अंडरवियर या इसी तरह के कपड़ों में दिखाने वाली इमेज जनरेट करने की सुविधा ब्लॉक कर दी गई है। यह पाबंदी फ्री और पेड दोनों तरह के यूजर्स पर लागू की गई है। कंपनी का कहना है कि अब X प्लेटफॉर्म पर Grok अकाउंट से इमेज बनाना और इमेज एडिट करना सिर्फ पेड सब्सक्राइबर्स के लिए ही उपलब्ध रहेगा। X का ये भी कहना है कि इससे जवाबदेही बढ़ेगी और कानून या प्लेटफॉर्म की पॉलिसीस का उल्लंघन करने वालों पर सख्त कार्रवाई संभव हो पाएगी। ‘जीरो टॉलरेंस’ पॉलिसी भी रहेगी जारी इसके अलावा X ने यह भी साफ कहा है कि ये बदलाव उसकी मौजूदा सेफ्टी पॉलिसी में ढील नहीं देता। प्लेटफॉर्म पर तैयार किया गया और पोस्ट होने वाला हर AI कंटेंट X के रूल्स के हिसाब से होना जरूरी है। कंपनी ने यह भी कहा है कि बच्चों के यौन शोषण, बिना सहमति के नग्नता और अवांछित यौन कंटेंट के प्रति उसकी ‘जीरो टॉलरेंस’ पॉलिसी जारी रहेगी। यह भी पढ़ें- महिलाओं के अश्लील पोस्ट पर एक्स ने गलती मानी, कहा- \“भारत के कानून के हिसाब से काम करेंगे\“