कैसे कसेगी AI पर नकेल?: तीन घंटे में हटानी होगी आपत्तिजनक सामग्री, नए IT नियम में शिकायत का जल्द निपटारा जरूरी

सरकार ने अब आईटी नियमों में क्या बदलाव किया है?
इन संशोधनों को केंद्रीय इलेक्ट्रॉनिकी और सूचना प्रौद्योगिकी मंत्रालय की तरफ से सूचना-प्रौद्योगिकी कानून, 2000 की धारा 87 के जरिए मिली ताकतों का इस्तेमाल करते हुए पेश किया गया है।

नियमों में एआई से तैयार सामग्री और सिंथेटिक सामग्री को क्या पहचान-परिभाषा दी गई है?
केंद्र ने सूचना प्रौद्योगिकी (मध्यवर्ती दिशानिर्देश और डिजिटल मीडिया आचार संहिता) नियम, 2021 में संशोधन करते हुए एआई से तैयार सामग्री और पहली बार सिंथेटिक सामग्री के लिए सख्त नियम नोटिफाई किए हैं।

सिंथेटिक सामग्री की परिभाषा और पहचान
कानूनी परिभाषा: पहली बार 'सिंथेटिक रूप से उत्पन्न जानकारी' (एसजीआई) को औपचारिक रूप से परिभाषित किया गया है। इसमें ऐसी ऑडियो, विजुअल या ऑडियो-विजुअल सामग्री शामिल है जो एल्गोरिदम या एआई के जरिए बनाई या बदली गई हों, और जो वास्तविक व्यक्तियों या घटनाओं के जैसी दिखाई देती हों। यानी डीपफेक एडिटेड या डिजिटली एडिटेड तस्वीरें या वीडियो।
हालांकि, सामान्य संपादन (रूटिन एडिटिंग), सुलभता उपकरण (जैसे नेत्रहीनों के लिए टेक्स्ट-टू-स्पीच), शैक्षणिक सामग्री और सद्भावपूर्ण तकनीकी सुधारों को इन नियमों से बाहर रखा गया है, शर्त ये है कि वे सामग्री के अर्थ को न बदलें।

यूजर्स के लिए कैसे तय की गई नई जिम्मेदारियां?
नए संशोधन के तहत डिजिटल प्लेटफॉर्म का उपयोग करने वाले यूजर्स के लिए कई महत्वपूर्ण जिम्मेदारियां और जवाबदेही तय की गई हैं, जो मुख्य रूप से आर्टिफिशियल इंटेलिजेंस और सिंथेटिक सामग्री को लेकर लागू होंगी।
अनिवार्य घोषणा (यूजर डिक्लेरेशन): सोशल मीडिया प्लेटफॉर्म्स के लिए अब यह जरूरी है कि वे यूजर्स से यह घोषणा लें कि उनके द्वारा अपलोड की गई सामग्री एआई से तैयार की गई है या नहीं। जब यूजर किसी बड़े प्लेटफॉर्म पर कंटेंट अपलोड करेंगे, तो इसकी खुद घोषणा करनी होगी कि क्या इसे बनाने में एआई का उपयोग किया गया है।
ईमानदारी की जरूरत: नई नियमावली के अनुसार, कंटेंट की प्रकृति के बारे में सच बोलने की जिम्मेदारी अब सीधे यूजर पर है। हालांकि, प्लेटफॉर्म्स इन घोषणाओं की सटीकता की जांच के लिए अपने तकनीकी उपकरणों का उपयोग करेंगे, लेकिन प्राथमिक जिम्मेदारी यूजर की होगी।

लेबल और मेटाडाटा के साथ छेड़छाड़ पर रोक: यूजर्स को उन लेबल या स्थायी मेटाडाटा (provenance markers) को हटाने, दबाने या उनके साथ छेड़छाड़ करने से स्पष्ट रूप से प्रतिबंधित किया गया है, जो प्लेटफॉर्म की तरफ से एआई की पहचान के लिए लगाए जाते हैं।

कानूनी कार्रवाई को लेकर जागरूकता: प्लेटफॉर्म्स को अब हर तीन महीने में कम से कम एक बार यूजर्स को यह चेतावनी देनी होगी कि नियमों का उल्लंघन करने या एआई का गलत इस्तेमाल करने पर उन्हें सजा भुगतनी पड़ सकती है। इसमें अकाउंट का निलंबन, सामग्री को हटाया जाना और भारतीय न्याय संहिता (बीएनएस), बाल संरक्षण (पॉक्सो) और चुनाव कानूनों के तहत आपराधिक कार्रवाई हो सकती है।
पहचान का खुलासा: अगर एआई के जरिए कोई अवैध कार्य या अपराध किया जाता है, तो नियमों के तहत प्लेटफॉर्म पीड़ितों या कानून प्रवर्तन एजेंसियों को यूजर की पहचान बताने के लिए बाध्य हो सकते हैं।

स्पष्ट लेबलिंग: सिंथेटिक सामग्री बनाने या प्रसारित करने वाले प्लेटफॉर्म्स के लिए अब इसे प्रमुखता से लेबल करना जरूरी है। वीडियो में स्क्रीन पर स्पष्ट लेबल और ऑडियो में शुरुआत में डिस्क्लोजर देना होगा।

डिजिटल फिंगरप्रिंट: प्लेटफॉर्म्स को सामग्री में स्थायी मेटाडेटा या प्रोवेनेंस मार्कर (provenance markers) जोड़ने होंगे, जिससे यह पता लगाया जा सके कि सामग्री किस एआई टूल से बनाई गई है। इन लेबलों या मेटाडेटा को हटाना प्रतिबंधित है।


 

प्लेटफॉर्म्स के लिए क्या जिम्मेदारियां तय? 
नए संशोधन नियमों के तहत यूजर्स के साथ सोशल प्लेटफॉर्म्स के लिए भी कई जिम्मेदारियां तय की गई हैं। इसके तहत कंपनियों के लिए नए मानक तैयार किए गए हैं।
उपयोगकर्ता घोषणा: लोकप्रिय सोशल मीडिया प्लेटफॉर्म्स को अपने उपयोगकर्ताओं से यह घोषणा लेनी होगी कि अपलोड की गई सामग्री सिंथेटिक है या नहीं।
सत्यापन: प्लेटफॉर्म्स को तकनीकी उपकरणों के माध्यम से इन घोषणाओं की सटीकता की जांच करनी होगी।
सुरक्षा उपाय: प्लेटफॉर्म्स को बाल यौन शोषण सामग्री (CSAM), गैर-सहमति वाली अंतरंग तस्वीरें (NCII), और धोखाधड़ी के लिए इस्तेमाल होने वाले डीपफेक को रोकने के लिए ऑटोमैटिक एआई फिल्टर लगाने होंगे।

कठोर समयसीमा और सजा का भी प्रावधान
3 घंटे में निष्कासन: सरकार या अदालत के आदेश के बाद, प्लेटफॉर्म्स को अवैध एआई सिंथेटिक सामग्री को 3 घंटे के अंदर हटाना होगा। पहले इसके लिए प्लेटफॉर्म्स को 36 घंटे का समय दिया जाता था। इसके अलावा न्यूडिटी या यौन सामग्री के मामले में यह समयसीमा केवल 2 घंटे रखी गई है।
प्लेटफॉर्म्स को मिली सुरक्षा का खात्मा: अगर कोई प्लेटफॉर्म इन नियमों का पालन करने या समय पर सामग्री हटाने में नाकाम रहता है, तो वह 'सेफ हार्बर' नियम (धारा 79) के तहत मिली सुरक्षा खो देगा और उसे उस सामग्री के लिए कानूनी रूप से जवाबदेह माना जा सकता है।
कानूनी कार्रवाई: गंभीर अपराधों के मामले में, प्लेटफॉर्म्स को उपयोगकर्ता की पहचान कानून प्रवर्तन अधिकारियों को बतानी होगी। ऐसा न करने पर भी दंडात्मक कार्रवाई का प्रावधान रखा गया है।