क्या है ‘deepfake’? कहीं भी फोटो-वीडियो शेयर करने से पहले ये खबर ज़रूर देख लें !  

मंदाना कैसे फंसी AI के खेल में

deepfake: अगर आपको पल-पल की फोटोज़ और वीडियोज़ सोशल मीडिया पर पोस्ट करना अच्छा लगता है, तो अब ऐसा करने से पहले ये खबर ज़रूर पढ़ लें । खासकर अपनी प्राइवेट और सिंगल फोटो या वीडियो किसी भी सोशल प्लेटफॉर्म जैसे फेसबुक, एक्स, व्हाट्सअप, टेलीग्राम आदि पर आप पोस्ट करते हैं तो ये जरूर सोचें कि क्या कोई इसका गलत इस्तेमाल कर सकता है ? और इसे पोस्ट करना कितना ज़रूरी है ?  इन दिनों एक्ट्रेस रश्मिका मंदाना (Rashmika Mandana) की वीडियो को लेकर काफी बवाल मचा है जिसमें वो डीप लो नेकलाइन वाली बॉडी सूट ड्रेस पहनकर लिफ्ट में घुसती नज़र आ रही हैं । पहली नज़र में कोई भी इस वीडियो को देखकर अंदाज़ा नहीं लगा सकता है कि ये वीडियो फेक (FAKE) है । जब आप इस वीडियो को ध्यान से देखेंगे तो आपको सारा AI का कारनामा समझ में आ जाएगा । इस वीडियो के वायरल होने के बाद ये बात सामने आई कि वायरल वीडियो में दिख रही लड़की एक्ट्रेस रश्मिका नहीं हैं, बल्कि ये वीडियो ज़ारा पटेल की है । जैसे ही जारा पटेल वीडियो में लिफ्ट के अंदर घुस रही है तो तभी उनका चेहरा एक्ट्रेस रश्मिका मंदाना (RASHMIKA MANDANA) के रूप में बदल जा रहा है जो बताता है कि ये वीडियो फेक है और इसे AI टूल deepfake की मदद से बनाया गया है । 

rashmika mandana deepfake video girl zaara patel 1

इस वीडियो के वायरल होने के बाद खुद एक्ट्रेस रश्मिका ने शेयर पोस्ट की है । जिसमें रश्मिका ने लिखा- ‘मुझे ये शेयर करते हुए बहुत दुख हो रहा है कि मेरी जो डीपफेक वीडियो सोशल मीडिया पर वायरल हो रही है, उसने मुझे आहत किया है । इस तरह की चीजें सच कहूं तो मेरे लिए बहुत खतरनाक है । मैं डरी हुई हूं । पर मैं इस पर भी गौर देना चाहती हूं कि ये तो मेरे साथ हुआ, ये किसी के भी साथ हो सकता है, और इससे इंसान काफी आहत होता है । मुझे हैरत इस बात पर हो रही है कि लोग किस तरह तकनीक का गलत इस्तेमाल कर रहे हैं । ‘

कई दिनों से इसपर बवाल मचा है । वीडियो में साफ तौर पर दिख भी रहा है कि ये असली वीडियो नहीं है । इसे लेकर अमिताभ बच्चन ने भी इस वीडियो को ट्विटर पर शेयर कर अलर्ट जारी किया । उन्होंने इस तरह की एडिटिंग के खिलाफ आवाज उठाते हुए कहा था कि इसपर सख्त एक्शन लिया जाना चाहिए ।

डीपफेक (deepfake) वीडियो क्या है?

आर्टिफिशियल इंटेलिजेंस (AI) का इस्तेमाल कर डीपफेक वीडियो के तहत किसी दूसरे शख्स के वीडियो या फोटो को एडिट किया जाता है । ऐसा ही एक वीडियो रश्मिका मंदाना का बताकर सोशल मीडिया पर वायरल हो रहा है, लेकिन ये जारा पटेल का है । वीडियो में साफ दिख रहा है कि मंदाना के चेहरे का इस्तेमाल किया गया है । deepfake टर्म Deep Learning से आया है । यह मशीन लर्निंग का एक पार्ट है डीप लर्निंग । नाम में Deep लगा है, जिसका मतलब ये मल्टीपल लेयर्स होता है । यह आर्टिफिशियल न्यूरल नेटवर्क पर बेस्ड होता है । इस एल्गोरिद्म में काफी सारा डेटा एंटर करके फेक कॉन्टेंट को असली में बदल दिया जाता है । deepfake कॉन्टेंट के लिए AI का इस्तेमाल किया जाता है । स्कैमर्स Deepfake का यूज लोगों को ब्लैकमेल करने के लिए करते हैं । इसी तरह वीडियोज और फोटोज को AI की मदद से एडिट करके लोगों को परेशान करते हैं

क्या  करना होगा?

एक्ट्रेस रश्मिका मंदाना का डीपफेक वीडियो वायरल होने पर केंद्र सरकार ने सोमवार (6 नवंबर) को कहा कि वो नागरिकों की सुरक्षा के लिए प्रतिबद्ध हैं । इस दौरान सरकार ने बताया कि इसके खिलाफ क्या कार्रवाई हो सकती है ? केंद्रीय मंत्री राजीव चंद्रशेखर ने सोशल मीडिया एक्स पर लिखा, “प्रधानमंत्री नरेंद्र मोदी की सरकार इंटरनेट का उपयोग करने वाले सभी डिजिटल नागरिकों की सुरक्षा करने के लिए प्रतिबद्ध है ।” उन्होंने बताया कि डीपफेक वीडियो अधिक खतरनाक है । आईटी नियमों के तहत प्लेटफॉर्म को इसके खिलाफ कार्रवाई करनी होगी ।
केंद्रीय इलेक्ट्रॉनिक्स और आईटी राज्य मंत्री ने कहा यह प्लेटफ़ॉर्म के लिए एक कानूनी दायित्व है कि वो सुनिश्चित करें कि कोई भी यूजर गलत सूचना पोस्ट न करें । 

उन्होंने आगे कहा कि यह भी सुनिश्चित करें कि जब यूजर या सरकार रिपोर्ट करें तो गलत सूचना को 36 घंटों में हटा दिया जाए । प्लेटफॉर्म इसका पालन नहीं करते हैं तो नियम 7 और आईपीसी के प्रावधानों के तहत पीड़ित व्यक्ति प्लेटफॉर्म के खिलाफ अदालत का दरवाजा खटखटा सकता है ।

कैसे बचें ?

आर्टिफिशियल इंटेलिजेंस (AI) के आने के बाद से लोग इसका गलत तरीके से ज्यादा इस्तेमाल कर रहे हैं । ऐसे में आपके साथ ऐसा कुछ न हो इसलिए अपनी निजी तस्वीरें और वीडियो सोशल मीडिया पर अपलोड करने से बचें क्योंकि इन्हें गलत तरीके से एडिट कर रखा जा रहा है । संभव हो तो अपनी प्रोफाइल प्राइवेट रखें और कम से कम जानकारी अपनी सोशल मीडिया पर पोस्ट करें ।

ये भी पढ़ें: Karva Chauth: जानिए करवाचौथ का महात्मय, सुहागिनें क्यों रखती हैं निर्जला व्रत ?

YOUTUBE

One thought on “क्या है ‘deepfake’? कहीं भी फोटो-वीडियो शेयर करने से पहले ये खबर ज़रूर देख लें !  

Leave a Reply

Your email address will not be published. Required fields are marked *