डीपफेक पर गुजरात हाईकोर्ट सख्त: केंद्र-राज्य को नोटिस, AI से संवैधानिक पदाधिकारियों की सुरक्षा पर मांगा जवाब

अदालत ने फिलहाल सोशल मीडिया इंटरमीडियरी प्लेटफॉर्म्स- मेटा, गूगल, एक्स, रेडिट और स्क्रिब्ड को नोटिस जारी करने पर निर्णय सरकारों के जवाब मिलने के बाद लेने की बात कही है।

याचिका में क्या उठाए गए मुद्दे?
यह जनहित याचिका अधिवक्ता विकास विजय नायर ने दायर की है। याचिका में मांग की गई है कि एआई के जरिए बनाए गए फर्जी या छेड़छाड़ किए गए वीडियो और तस्वीरों के प्रसार को रोकने के लिए कानूनी सुधार और स्पष्ट नियामक दिशा-निर्देश तय किए जाएं।

याचिकाकर्ता ने अदालत से अनुरोध किया है कि सभी सोशल मीडिया प्लेटफॉर्म्स पर संवैधानिक पदाधिकारियों से जुड़ी एआई-जनित तस्वीरों, वीडियो और डिजिटल कंटेंट के प्रकाशन, प्रसारण और साझा करने पर तत्काल रोक लगाने के निर्देश दिए जाएं।

साथ ही, ऐसे कंटेंट पर “एआई-जनरेटेड डेटा” वॉटरमार्क अनिवार्य करने और किसी भी आपत्तिजनक सामग्री को रियल-टाइम में हटाने की सख्त व्यवस्था बनाने की भी मांग की गई है।

पुलिस और एजेंसियों के लिए एसओपी की मांग
याचिका में यह भी कहा गया है कि गुजरात के सभी थानों और विशेष अपराध इकाइयों के लिए एआई-निर्मित कंटेंट से निपटने हेतु मानक संचालन प्रक्रिया (SOP) तैयार की जाए।

इसके अलावा, इंटरमीडियरी प्लेटफॉर्म्स को कंटेंट लेबलिंग, ट्रेसबिलिटी और ड्यू डिलिजेंस से जुड़े वैधानिक दायित्वों का सख्ती से पालन करने के निर्देश देने की मांग की गई है।

डीपफेक से बढ़ता खतरा
याचिका में बताया गया है कि डीपफेक तकनीक इतनी उन्नत हो चुकी है कि यह किसी व्यक्ति की आवाज, चेहरे के भाव और शारीरिक हावभाव की बेहद सटीक नकल कर सकती है। आम लोग असली और नकली कंटेंट में अंतर नहीं कर पाते, जिससे भ्रम की स्थिति बनती है, प्रतिष्ठा को नुकसान पहुंचता है और सार्वजनिक भरोसा कमजोर होता है।

राज्य सरकार ने क्या कहा?
राज्य सरकार की ओर से पेश हुए महाधिवक्ता कमल त्रिवेदी ने अदालत को बताया कि यह गंभीर मुद्दा है और इस पर गंभीरता से विचार जरूरी है। उन्होंने कहा कि डीपफेक और सिंथेटिक कंटेंट के जरिए ऑनलाइन माध्यमों का व्यापक और चिंताजनक दुरुपयोग हो रहा है, जिससे अपूरणीय क्षति हो सकती है।

उन्होंने यह भी उल्लेख किया कि कई देशों ने एआई और डीपफेक के दुरुपयोग को रोकने के लिए कड़े कानून बनाए हैं।

अगली सुनवाई की तारीख हुई तय
इस मामले की अगली सुनवाई 20 मार्च को तय की गई है। माना जा रहा है कि सरकारों के जवाब के बाद अदालत इस दिशा में ठोस दिशानिर्देश या सख्त आदेश जारी कर सकती है।