ग्रोक एआई पर अश्लील तस्वीरें बनाने का आरोप
डिजिटल डेस्क, नई दिल्ली। एलन मस्क के प्लेटफार्म एक्स के AI चैटबाट ग्रोक की ओर से महिलाओं और बच्चों की अश्लील तस्वीरें बनाए जाने को लेकर दुनिया भर की सरकारों ने चिंता जाहिर की है और इसकी आलोचना की है।
ब्रिटेन के शीर्ष प्रौद्योगिकी अधिकारी ने मंगलवार को मांग की कि एक्स इस पर तत्काल कार्रवाई करे। यूरोपीय संघ की कार्यकारी शाखा ने ग्रोक की निंदा की है जबकि भारत, फ्रांस, मलेशिया और ब्राजील के अधिकारियों और नियामकों ने मंच की निंदा की है और जांच की मांग की है।
अलग-अलग देशों की ओर से बढ़ती चिंता ऐसे एप की भयावह क्षमता की ओर इशारा करती है, जो एआइ का उपयोग करके यौन डीपफेक तस्वीरें उत्पन्न करते हैं।
ग्रोक एआई पर अश्लील तस्वीरें बनाने का आरोप
समस्या पिछले साल ग्रोक इमेजिन के लांच होने के बाद सामने आई। यह यूजर्स को टेक्स्ट प्राम्प्ट टाइप करके वीडियो और तस्वीर बनाने की अनुमति देता है। इसमें एक \“\“स्पाइसी मोड\“\“ शामिल है, जो वयस्क सामग्री बना सकता है।
पिछले महीने के अंत में यह और खतरनाक हो गया, जब ग्रोक ने दूसरों द्वारा पोस्ट तस्वीरों को संशोधित करने के लिए बड़ी संख्या में यूजर्स अनुरोधों को स्वीकार करना शुरू कर दिया।
गैर-लाभकारी समूह एआइ फोरेंसिक ने कहा कि उसने 25 दिसंबर से एक जनवरी के बीच ग्रोक द्वारा बनाई गई 20,000 तस्वीरों का विश्लेषण किया और पाया कि दो प्रतिशत में बिकनी या पारदर्शी कपड़ों में 18 या उससे कम उम्र के व्यक्ति को दर्शाया गया है।
एक्स ने इस बात से इन्कार नहीं किया है कि ग्रोक के माध्यम से उत्पन्न ऐसी सामग्री मौजूद है। इसने एक पोस्ट में दावा किया कि यह बाल यौन शोषण सामग्री सहित अवैध सामग्री के खिलाफ कार्रवाई करता है। हालांकि एक्स पर इस तरह की कंटेंट पर रोक लगाने की मांग वाले देशों की सूची बढ़ती जा रही है।
सरकार ने जारी किया अल्टीमेटम
भारत सरकार ने शुक्रवार को एक्स को अल्टीमेटम जारी किया, जिसमें कहा गया है कि वह सभी गैरकानूनी सामग्री हटा दे और ऐसे यूजर्स के खिलाफ कार्रवाई करे। देश के इलेक्ट्रानिक्स और सूचना प्रौद्योगिकी मंत्रालय ने कंपनी को ग्रोक के \“\“तकनीकी और शासन ढांचे\“\“ की समीक्षा करने और की गई कार्रवाई पर रिपोर्ट दाखिल करने का आदेश दिया।
मंत्रालय ने ग्रोक पर एआइ के \“घोर दुरुपयोग\“ और महिलाओं को अशोभनीय रूप से बदनाम करने के लिए \“अपमानजनक या अश्लील\“ तरीके से उनकी तस्वीरें या वीडियो बनाने और साझा करने की अनुमति देकर सुरक्षा उपायों और प्रवर्तन की गंभीर विफलताओं का आरोप लगाया।
चेतावनी दी कि 72 घंटे की समय सीमा का पालन न करने पर कंपनी को कानूनी समस्याओं का सामना करना पड़ेगा। यह समय सीमा बीत चुकी है।
（न्यूज एजेंसी AP के इनपुट के साथ） |
|
