ब्रह्मानंद मिश्रा, नई दिल्ली। बीते कुछ महीनों से इंटरनेट मीडिया पर आकर्षक व रियलिस्टिक फोटो और वीडियो की भरमार है। इससे पहले \“एक्स\“ पर सहमति के बिना महिलाओं की फोटो शेयर की जा रही थी, जिसे लेकर खूब विवाद भी हुआ। दरअसल, एआई टूल्स की सुलभता के चलते आज एआई से तरह-तरह के कंटेंट बनाना और उसे प्रसारित करना बहुत आसान हो गया है। इससे क्रिएटिविटी, क्वालिटी और आथेंटिसिटी तीनों पर गहरा प्रभाव पड़ा है।
एक्सपर्ट मानते हैं कि एल्गोरिदम वास्तविक दिखने वाले （हाइपर रियलिस्टिक） एआई जेनरेटेड कंटेंट को अधिक बढ़ावा देते हैं, क्योंकि इनमें इंगेजमेंट रेट काफी अधिक होता है। चूंकि, एक्स, इंस्टाग्राम और फेसबुक आदि यूजर्स को इंगेज करने वाले प्लेटफार्म हैं, इसलिए यहां ऐसे कंटेंट तेजी से वायरल होते हैं। हाल के दिनों में इटली की प्रधानमंत्री जियोर्जिया मेलोनी से लेकर पाकिस्तान की अजमा बुखारी तक यहां डीपफेक वीडियो का शिकार बन चुकी हैं। जिस तेजी से एआई टूल्स का दुरुपयोग हो रहा है, उससे महिलाओं और बच्चों को डिजिटल स्पेस में प्रताड़ित करने का एक नया चलन ही शुरू हो गया है।
ऐसे में डिजिटल स्पेस में जवाबदेही और विश्वसनीयता तय करने की बहस काफी तेज हो गई है। इसी के मद्देनजर केंद्र सरकार कल यानी 20 फरवरी से आईटी संशोधन नियम 2026 को लागू करने जा रही है। इसमें एआई कंटेंट की लेबलिंग करने से लेकर तीन घंटे के भीतर डीपफेक और फेक न्यूज को हटाने जैसे कुछ कड़े प्रावधान किए जा रहे हैं।
जरूरी क्यों है हर कंटेंट पर नजर
वायरल होने की दौड़ में जब सच्चाई पर हमला होता है, तो व्यक्ति विशेष ही नहीं बल्कि पूरा समाज शिकार बनता है। एआई जनित सिंथेटिक कंटेंट और अफवाहों के प्रसार में कब और क्या ट्रिगर हो जाए, किसी को पता नहीं होता। ऐसे में हर कंटेंट पर निगरानी जरूरी है, चाहे वह टेक टूल्स के जरिये हो, फिर कानूनी शिकंजे से। इंटरनेट मीडिया पर कंटेंट साझा करने की स्पीड इतनी तेज होती है कि कोई भी एल्गोरिदम कंटेंट को सेंसर करने या तथ्यों की सत्यतता जांचने के लिए अभी तक पूरी तरह सक्षम नहीं बन पाया है।
इंसान और एआई के कंटेंट के बीच का भेद मिटता जा रहा है। इसे देखते हुए विश्व आर्थिक मंच ने सिंथेटिक कंटेंट से होने वाली फेक न्यूज को दुनिया के सबसे बड़े खतरों में से एक माना है। अभी तरह फेक को चिह्नित करने, सोर्स को जांचने और संभावित हेराफेरी पर नजर रखने के लिए तकनीकी उपाय ही किए जाते रहे हैं। जिस तेजी से सिंथेटिक कंटेंट रियलिटी के करीब पहुंच रहे हैं, उससे बिना टेक्नीकल सपोर्ट के फ्रैबिकेटेड मीडिया की पहचान मुश्किल होती जा रही है।
एआई जनित साइबर अपराध कॉरपोरेट फ्रॉड तक ही सीमित नहीं है, इससे सामाजिकता प्रभावित होने लगी है। स्कूल में कोई बच्चा किसी सहपाठी का डीपफेक वीडियो बनाकर शेयर कर दे या वायस क्लोनिंग के जरिये किसी के साथ ठगी हो जाए, यह कल्पना नहीं आज की हकीकत बन गई है। अनेक रिसर्च बताते हैं कि इंसान लगातार एआई जेनरेटेड आवाज को चिह्नित कर पाने की स्थिति में नहीं रह सकता। लोगों को सिर्फ प्रशिक्षित करना ही पर्याप्त नहीं है, बल्कि ऐसा सिस्टम डिजाइन करने की जरूरत है, जो बचाव और निगरानी दोनों स्तरों पर काम करे।
क्यों और कैसे खास है नया आईटी कानून
अनिवार्य लेबलिंग एवं मेटा डेटा : कंटेंट की पारदर्शिता सुनिश्चित करने के लिए वीडियो में विजिबल वाटरमार्क लगाना होगा और ऑडियो में शुरुआत में ही डिस्क्लेमर देना होगा। इसी तरह प्लेटफॉर्म को फाइल में दर्ज करना होगा कि उसे कहां से और किसके द्वारा जेनरेट （मेटा डेटा） किया गया है। इससे डीपफेक बनाने वाले तक पहुंचना आसान होगा।
सिंथेंटिक कंटेंट की कानूनी पहचान : पहली बार भारतीय कानून में सिंथेंटिक कंटेंट की कानूनी परिभाषा तय की गई है। इसमें कोई भी मीडिया （ऑडियो, वीडियो या इमेज） शामिल है, जिसे एल्गोरिदम से असली दिखने या सुनने के लिए बनाया या बदला गया हो।
अवैध एआई कंटेंट पर नजर : इंटरनेट मीडिया प्लेटफॉर्मों को अपलोड को ब्लॉक करने के लिए ऑटोमेटेड एआई फिल्टर का प्रयोग करना होगा। बच्चों के दुर्व्यवहार वाली सामग्री और बदले की भावना वाले डीपफेक पोर्न पर लगाम लगाना होगा। इसी तरह चर्चित हस्तियों का फर्जी इलेक्ट्रानिक रिकार्ड बनाने वालों पर नजर रखनी होगी।
यूजर्स की जिम्मेदारी : कंटेंट की सत्यतता और वैधता की जिम्मेदारी यूजर की भी होगी। जब आप किसी प्लेटफार्म पर कोई कंटेंट अपलोड करेंगे, तो बताना है कि यह एआई जेनरेटेड है या नहीं। साथ ही प्लेटफार्म अपने टूल्स के लिए जरिये भी कंटेंट की सत्यता जांचेंगे।
त्वरित कार्रवाई : जिस तेजी से कंटेंट वायरल होते हैं, उसे देखते हुए त्वरित कार्रवाई की जरूरत है, इसीलिए कोर्ट या सरकार द्वारा अवैध माने गए कंटेंट को तीन घंटे के भीतर हटाने का प्रविधान किया गया है। संवेदनशील और डीपफेक न्यूडिटी वाले कंटेंट को दो घंटे के भीतर हटाने की अनिवार्यता तय की गई है। इसी तरह प्लेटफार्म को सात दिनों की भीतर यूजर्स की शिकायत का समाधान करना होगा।
किस तरह के बदलाव की है उम्मीद
- वास्तविक दुनिया को होने वाले नुकसान से पहले ही फेक न्यूज और अफवाहों पर नियंत्रण होगा।
- बिना सहमति के वायरल किए गए एआई जेनरेटेड कंटेंट पर रोक लगने से निजता हनन के मामलों में कमी आएगी।
- संवेदनशील हालात या आचार संहिता अवधि में एआई इन्फ्लुएंशर्स या मार्फ वीडियो पर लगाम लग सकेगी।
- इससे ग्लोबल टेक कंपनियों को भारत की जरूरतों के अनुरूप डिटेक्शन टूल और मॉडरेशन के लिए निवेश करना होगा।
चुनौतियां तो फिर भी रहेंगी
- उच्च गुणवत्ता के डीपफेक और वास्तविक फुटेज के बीच अंतर को चिह्नित करने में ऑटोमेटेड टूल्स अभी पूरी तरह सक्षम नहीं हो पाए हैं।
- तीन घंटे की अवधि में कार्रवाई सुनिश्चित करने के लिए कंपनियों को बड़े पैमाने पर तैयारी करने और सिस्टम बनाने की जरूरत होगी।
- सबसे बड़ी चुनौती यह है कि अगर मेटाडेटा और प्रोवेनेंस मार्कर एंबेड किया जाएगा, तो मैसेजिंग एप्स के एंड-टू-एंड एन्क्रिप्शन की सुविधा खत्म हो सकती है।
- ऐसे वीडियो को रेगुलेट करने में मुश्किल हो सकती है जिसमें 90-95 प्रतिशत तक असली हो और एआई के जरिये मामूली बदलाव किए गए हों। खासकर एआई जेनरेटेड सब-टाइटल वाले वीडियो में मुश्किलें खड़ी हो सकती हैं।
क्या है तरीका
- डीपफेक के कुछ जरूरी संकेतों को पहचानने और समझने के लिए लोगों को जागरूक होना होगा।
- कई बार कंप्रेश या री-अपलोड करने पर वाटरमार्किंग प्रभावित हो सकती है, इसलिए लेबलिंग एक स्टैंडर्ड बनाने की जरूरत है।
- किसी कंटेंट को पोस्ट करने वाले अकाउंट की विश्वसनीयता जांचना चाहिए। अलग-अलग सोर्स से कन्फर्म करना जरूरी है।
- इसके टाइपो, दोहराव और स्टाइल पर बारीकी से गौर करना चाहिए, इससे आशंका को बल मिल सकता है।
- डीपफेक वीडियो या फोटो में चेहरे और बैकग्राउंड के प्रकाश, आवाज में अक्सर अनियमितता दिख जाती है।
यह भी पढ़ें- AI Impact Summit 2026: एआई से घबराने की जरूरत नहीं, नए टूल और स्किल सीखने से मिलेगी नौकरी क्या एआई कंटेंट के दुरुपयोग को रोकने के लिए नए आईटी नियम पर्याप्त और प्रभावी होंगे?
हां, यह डिजिटल सुरक्षा के लिए आवश्यक कदम है।
नहीं, चुनौतियां बनी रहेंगी और पूरी तरह नियंत्रण मुश्किल होगा। Vote Please select atleast one option Vote added succesfully |
|
