हाल ही में साउथ ऐक्ट्रेस रश्मिका मंदाना (Rashmika Mandanna) का एक वीडियो वायरल हुआ, जिसे लेकर एक्ट्रेस को ट्रोल किया जाने लगा। वायरल वीडियो को देखने के बाद खुद रश्मिका मंदाना भी हैरान थी। इसके बाद उन्होंने क्लीयर किया कि ये वीडियों उनका नहीं है। ये फेक है। ये डीपफेक वीडियो है। अब इस खतरानक डीपफेक (Deepfake) टेक्नालॉजी की चर्चा पूरे देश में होने लगी है। आइये जानते हैं क्या है डीपफेक टेक्नालॉजी, यह कैसे काम करता है, रियल और फेक स्टोरी को कैसे पहचानें। भारत में इससे जुड़े कानून क्या है।
क्या है Deepfake
डीपफेक को आसान शब्दों में कहा जाए तो किसी रियल वीडियो में दूसरे शख्स का चेहरा लगा दिया जाए। डीपफेक वह टेक्नोलॉजी है जिससे रियल वीडियो में दूसरे के चेहरे को फिट कर फेक वीडियो बनाया जाता है और जो रियल लगता है। इसे तैयार करने के लिए आर्टिफिशियल इंटेलिजेंस टेक्नोलॉजी की मदद ली जाती है। इसे डीप लर्निंग भी कहा जाता है। इसके तहत किसी की फोटो हो या फिर वीडियो को फेक में बदल दिया जाता है ओर देखने में एकदम रियल लगता है।
Deepfake टेक्नोलॉजी क्या है
डीपफेक शब्द ‘Deep Learning’ और ‘Fake’ के मेल से बना है। ये टेक्नोलॉजी ऐसी एल्गोरिदम और पैटर्न को लर्न करती है, जिसका इस्तेमाल मौजूदा इमेज या वीडियो में हेरफेर करके उसके और ज्यादा रियल बनाने में किया जाता है। इससे बनी वीडियो और इमेज पर लोग आसानी से भरोसा भी कर लेते हैं। ये टेक्नोलॉजी Generative Adversarial Networks (GANs) का इस्तेमाल करती है जिससे फेक वीडियो और इमेज बनाये जाते हैं।
कैसे शुरू हुई Deepfake टेक्नोलॉजी
‘डीपफेक’ शब्द पहली बार 2017 के अंत में एक Reddit यूजर द्वारा बनाया गया था, जिसने अश्लील वीडियो पर मशहूर हस्तियों के चेहरे को सुपरइम्पोज करने के लिए डीप लर्निंग टेक्नोलॉजी का इस्तेमाल किया था। इस घटना ने महत्वपूर्ण ध्यान आकर्षित किया। 2018 तक, ओपन-सोर्स लाइब्रेरी और ऑनलाइन शेयर किए गए ट्यूटोरियल की बदौलत टेक्नोलॉजी इस्तेमाल में आसान हो गई थी। बाद के 2020 के में डीपफेक ज्यादा सरल हो गए और उनका पता लगाना कठिन हो गया।
कैसे काम करता है Deepfake
Deepfakes दो नेटवर्क की मदद से बनता है जिनमें एक इनकोडर होता है और दूसरा डीकोडर नेटवर्क होता है। इनकोडर नेटवर्क सोर्स कंटेंट (original video) को एनालाइज करता है और फिर डाटा को डीकोडर नेटवर्क को भेजता है। उसके बाद फाइनल आउटपुट निकलता है जो कि हूबहू असली जैसा है लेकिन वास्तव में वह फेक होता है। इसके लिए सिर्फ एक वीडियो या वीडियो की जरूरत होती है। डीपफेक के लिए कई वेबसाइट्स और एप हैं जहां लोग डीपफेक वीडियोज बना रहे हैं।
ऐसे पहचानें Deepfake कंटेंट
इस तरह के फोटो-वीडियोज को पहचानना आसान तो नहीं है लेकिन नामुमकिन भी नहीं है। इन्हें पहचानने के लिए आपको वीडियो को बहुत ही बारिकी से देखना होगा। खासतौर पर चेहरे के एक्सप्रेशन, आंखों की मूवमेंट और बॉडी स्टाइल पर ध्यान देना होगा। इसके अलावा बॉडी कलर से भी आप इन्हें पहचान सकते हैं। आमतौर पर ऐसे वीडियोज में चेहरे और बॉडी का कलर मैच नहीं करता है। इसके अलावा लिप सिंकिंग से भी इस तरह के वीडियोज की पहचान की जा सकती है। ऐसे वीडियोज को आप लोकेशन और एक्स्ट्रा ब्राइटनेस से भी पहचान सकते हैं। इसके अलावा खुद ही समझ से भी आप यह तय कर सकते हैं कि यह वीडियो असली है या नहीं।
Deepfake वीडियो बनाने पर सजा
यदि आप मजाक में किसी का डीपफेक वीडियोज बनाते हैं और शेयर करते हैं तो आपके खिलाफ आईपीसी की धारा के तहत कार्रवाई हो सकती है। भारी जुर्माना भी लगाया जा सकता है। इसके अलावा यदि किसी की छवि खराब होती है तो आपके खिलाफ मानहानी का भी मामला बनेगा। इस मामले में सोशल मीडिया कंपनियों के खिलाफ भी आईटी नियमों के तहत कार्रवाई हो सकती है। शिकायत के बाद 36 घंटे के अंदर सोशल मीडिया कंपनियों को अपने प्लेटफॉर्म से इस तरह के कंटेंट को हटाना होगा।
