Video Seal: Meta ने लॉन्च किया एआई वीडियो वाटरमार्क टूल, डीपफेक रोकने में करेगा मदद

जेनरेटिव एआई के विकास के बाद से इंटरनेट पर डीपफेक्स की भरमार हो गई है। डीपफेक्स वे एआई कंटेंट होते हैं, जो एआई का उपयोग करके बनाए जाते हैं और अक्सर भ्रामक या गलत जानकारी फैलाने के लिए उपयोग किए जाते हैं। इनका इस्तेमाल सार्वजनिक हस्तियों के बारे में गलत जानकारी फैलाने, नकली आपत्तिजनक सामग्री बनाने, या धोखाधड़ी और स्कैम के लिए किया जाता है।

जैसे-जैसे एआई सिस्टम बेहतर होते जा रहे हैं, डीपफेक्स की पहचान करना और मुश्किल होता जा रहा है। एक मैकैफी सर्वेक्षण के अनुसार, 70 प्रतिशत लोग पहले से ही वास्तविक और एआई-जनित आवाज के बीच अंतर करने में असमर्थ महसूस करते हैं।

संसब (Sumsub) के आंकड़ों के अनुसार, 2022 में डीपफेक धोखाधड़ी उत्तर अमेरिका में 1,740 प्रतिशत और एशिया-प्रशांत क्षेत्र में 1,530 प्रतिशत बढ़ी। यह संख्या 2022 से 2023 के बीच दस गुना तक बढ़ गई। डीपफेक्स को लेकर बढ़ती चिंताओं के बीच, कई एआई मॉडल डेवलपर्स ने सिंथेटिक सामग्री की पहचान के लिए वॉटरमार्किंग टूल जारी करना शुरू कर दिया है। इस साल की शुरुआत में गूगल ने एआई टेक्स्ट और वीडियो पर वॉटरमार्क लगाने के लिए "सिंथआईडी" (SynthID) लॉन्च किया था। माइक्रोसॉफ्ट ने भी इसी तरह के उपकरण जारी किए हैं।