Deepfake Case: एआई-डीपफेक के बढ़ते मामलों पर टेक कंपनियों को हाईकोर्ट की फटकार, कहा- जिम्मेदारी तय करनी होगी

मुख्य न्यायाधीश सुनीता अग्रवाल और न्यायमूर्ति डीएन रे की खंडपीठ ने सुनवाई के दौरान कहा कि डिजिटल प्लेटफॉर्म्स की प्रभावी और सार्थक कार्रवाई ही कानून के तहत उनकी जिम्मेदारी तय करेगी। अदालत ने सभी संबंधित कंपनियों को 8 मई तक जवाब दाखिल करने को कहा है। 

सहयोग पोर्टल से जुड़ने का निर्देश

कोर्ट ने यह भी निर्देश दिया कि सभी इंटरमीडियरी प्लेटफॉर्म सहयोग पोर्टल से जुड़ें। यह पोर्टल अक्तूबर 2024 में केंद्र सरकार द्वारा शुरू किया गया था, जिसका उद्देश्य कानून प्रवर्तन एजेंसियों और डिजिटल कंपनियों के बीच बेहतर समन्वय स्थापित करना और अवैध कंटेंट को समयबद्ध तरीके से हटाना है। 

कानूनी नोटिस के बाद प्लेटफॉर्म्स कार्रवाई नहीं करते

सुनवाई के दौरान केंद्र और गुजरात सरकार ने अदालत को बताया कि कई प्लेटफॉर्म्स कानूनी नोटिस के बावजूद समय पर कार्रवाई नहीं करते। गृह मंत्रालय ने विशेष रूप से एक्स के रवैये पर चिंता जताई। मंत्रालय के अनुसार, 2024 से 2026 के बीच एक्स को 94 बार अवैध और एआई-जनित कंटेंट हटाने के लिए सूचित किया गया, लेकिन केवल 13 मामलों में ही औपचारिक जवाब मिला। हालांकि, कुछ मामलों में आंशिक कार्रवाई करते हुए 2024 में 788, 2025 में 70 और 2026 में 6 URLs को ब्लॉक किया गया। 

सरकार ने यह भी बताया कि मेटा और गूगल जैसे कुछ प्लेटफॉर्म्स ने अनुपालन की गति और दक्षता में सुधार किया है, लेकिन अन्य कई कंपनियां अभी भी सहयोग पोर्टल से पूरी तरह नहीं जुड़ी हैं या अपेक्षित स्तर पर सहयोग नहीं कर रही हैं। 

राज्य सरकार ने क्या दिए सुझाव?

याचिकाकर्ता ने अदालत के सामने दलील दी कि एआई आधारित फर्जी वीडियो और फोटो तेजी से सोशल मीडिया पर फैल रहे हैं, जो सार्वजनिक व्यवस्था और लोकतांत्रिक प्रणाली के लिए गंभीर खतरा बनते जा रहे हैं। मौजूदा कानूनी ढांचा जैसे आईटी एक्ट, 2000 और भारतीय न्याय संहिता इन चुनौतियों से निपटने के लिए पर्याप्त नहीं हैं। 

राज्य सरकार ने सुझाव दिया कि एक मजबूत नियामक व्यवस्था बनाई जाए, जिसमें जांच एजेंसियों और डिजिटल प्लेटफॉर्म्स के बीच रियल-टाइम समन्वय, तय समयसीमा में कार्रवाई और स्पष्ट जवाबदेही सुनिश्चित की जाए।