डीपफेक एक ऐसी तकनीक है जिसने धोखाधड़ी या भ्रामक कंटेंट उत्पन्न करने की अपनी क्षमता के बारे में चिंताएं पैदा कर दी हैं। जैसे कि गलत जानकारी का प्रसार, सार्वजनिक व्यक्तियों को चित्रित करने वाले
वीडियो का निर्माण और व्यक्तिगत गोपनीयता का उल्लंघन शामिल हैं।
रश्मिका मंदाना हाल ही में डीपफेक का शिकार हुईं और उनका एक वीडियो इंटरनेट पर वायरल हो गया है। ‘डीपफेक’ देखा जाए तो ‘डीप लर्निंग’ और ‘फेक’ शब्दों से मिलकर बना है।डीपफेक एक प्रकार का सिंथेटिक मीडिया है जो एआई और गहन शिक्षण तकनीकों व गहरे तंत्रिका नेटवर्क से बना है। इसमें ऐसी सामग्री तैयार करने के लिए मौजूदा फोटो या वीडियो को एडिट करना या उन पर सुपरइम्पोज करना शामिल है जो वास्तविक लगती है लेकिन वास्तविक नहीं है।
ये क्या कर सकते हैं?
डीपफेक ज्यादातर वीडियो और ऑडियो सामग्री में हेरफेर से जुड़े होते हैं, हालांकि उनमें फोटो और टेक्स्ट भी शामिल हो सकते हैं। डीपफेक का उपयोग आमतौर पर निम्नलिखित उद्देश्यों के लिए किया जाता है:
चेहरे की अदला-बदली
डीपफेक तकनीक वीडियो में एक व्यक्ति का चेहरा दूसरे व्यक्ति के चेहरे पर लगा सकती है, जिससे ऐसा प्रतीत होता है जैसे दूसरे व्यक्ति ने कुछ ऐसा कहा या किया जो उन्होंने कभी नहीं कहा या किया।
आवाज क्लोनिंग
डीपफेक किसी व्यक्ति की आवाज की सटीक नकल कर सकता है, जिससे ऐसा लगता है जैसे वे ऐसे शब्द और वाक्य बोल रहे हैं जो उन्होंने कभी नहीं कहे।
कैरेक्टर एनीमेशन
डीपफेक तकनीकों का उपयोग फिल्मों, वीडियो गेम और अन्य प्रकार के मनोरंजन के लिए एनिमेटेड कैरेक्टर का निर्माण करने के लिए किया जाता है।
टैक्स जेनरेशन
एआई-संचालित टेक्स्ट जनरेटर रियल लगने वाली लिखित सामग्री का उत्पादन कर सकते हैं। जिसका उपयोग विभिन्न उद्देश्यों के लिए किया जा सकता है।
डीपफेक तकनीक की वृद्धि ने इसके दुरुपयोग की संभावना के बारे में चिंताएं उत्पन्न कर दी हैं। इसका उपयोग अन्य चीजों के अलावा धोखे, पहचान की चोरी और गोपनीयता के उल्लंघन के लिए किया जा सकता है। परिणामस्वरूप, डीपफेक की पहचान करने और उसे बेअसर करने के तरीकों के साथ-साथ उनके उपयोग केबारे में कानूनी और नैतिक बहसें बनाने का प्रयास किया गया है। नतीजतन, डीपफेक की उपस्थिति के बारे में जागरूक रहना और ऑनलाइन मीडिया कंटेंट का सामना करते समय सावधानी से आगे बढ़ना महत्वपूर्ण है, खासकर अगर यह संदिग्ध या सच होने के लिए बहुत अच्छा लगता है।
