‘भारतीय कानून मानने ही होंगे’: मेटा को सरकार का साफ संदेश; एल्गोरिदम पर भी नजर: डीपफेक पर सख्ती की तैयारी

क्या मेटा को कंटेंट मॉडरेशन मजबूत करना होगा?
सूत्रों ने बताया कि देश के बाहर काम करने वाली मेटा की टीमें कई बार भारत के सांस्कृतिक संदर्भ और स्थानीय संवेदनशीलताओं को पूरी तरह नहीं समझ पाती हैं। ऐसे में कंटेंट को सही तरीके से मॉडरेट करने के लिए मेटा को स्थानीय स्तर पर अधिक इनपुट की जरूरत है। इसमें भारतीय भाषाओं के साथ-साथ देश की अलग-अलग सांस्कृतिक बारीकियों और सामाजिक संदर्भों की बेहतर समझ भी शामिल है।

CSAM के मामले में सरकार ने जीरो टॉलरेंस पर क्या कहा?
बच्चों के यौन शोषण से जुड़े कंटेंट (CSAM) के मुद्दे पर सरकारी सूत्रों का रुख बिल्कुल स्पष्ट था। उन्होंने कहा कि ऐसे कंटेंट के मामले में जीरो टॉलरेंस और किसी भी तरह के समझौते की कोई गुंजाइश नहीं होगी। अधिकारियों के मुताबिक, किसी प्लेटफ़ॉर्म पर इस तरह का कंटेंट मौजूद रहना नियमों का गंभीर उल्लंघन है। साथ ही, उन्होंने कहा कि मेटा को ऐसे मामलों से निपटने के लिए अधिक मजबूत और सक्रिय कदम उठाने होंगे। केवल भरोसा दिलाना पर्याप्त नहीं होगा, बल्कि कंपनी को अपनी कार्रवाई के जरिए यह साबित करना होगा कि वह ऐसे कंटेंट को रोकने के लिए प्रभावी कदम उठा रही है।

सेलिब्रिटी डीपफेक की पहचान में ह्यूमन-इन-द-लूप क्यों जरूरी है?
मशहूर हस्तियों से जुड़े डीपफेक के मामलों पर सूत्रों ने कहा कि किसी अधिकृत या वेरिफाइड हैंडल से पोस्ट किए गए कंटेंट को गलती से डीपफेक नहीं माना जाना चाहिए। अधिकारियों ने कहा कि ऐसे संवेदनशील मामलों को पूरी तरह ऑटोमेटेड डिटेक्शन सिस्टम के भरोसे नहीं छोड़ा जा सकता। उन्होंने किसी भी कंटेंट को हटाने से पहले उसकी सही समीक्षा के लिए “ह्यूमन-इन-द-लूप” सिस्टम की जरूरत पर जोर दिया। यानी ऑटोमेटेड सिस्टम की पहचान के बाद मानव विशेषज्ञों द्वारा भी कंटेंट की समीक्षा की जानी चाहिए, ताकि गलत पहचान और अनावश्यक कार्रवाई से बचा जा सके।

हटाए गए डीपफेक कंटेंट के बार-बार लौटने पर क्या है सरकार की चिंता?
सिंथेटिक रूप से बनाए गए कंटेंट के मामले में अधिकारियों ने उन पोस्ट और कंटेंट के बार-बार सामने आने पर चिंता जताई, जिन्हें पहले ही डीपफेक के रूप में पहचाना जा चुका है और प्लेटफ़ॉर्म से हटाया भी जा चुका है। मेटा से यह बताने को कहा गया है कि किसी कंटेंट को हटाए जाने के बाद उसे दोबारा सामने आने से रोकने के लिए कंपनी कौन से ठोस कदम उठा रही है। अधिकारियों का सवाल है कि एक बार किसी कंटेंट की पहचान और उसे हटाने की कार्रवाई हो जाने के बावजूद वही या उससे मिलता-जुलता कंटेंट फिर से यूजर्स तक कैसे पहुंच रहा है।

यूजर्स की पसंद से अलग कंटेंट क्यों दिखा रहा है मेटा का रिकमेंडेशन सिस्टम?
सरकार ने मेटा के रिकमेंडेशन और वायरल होने वाले एल्गोरिदम को लेकर भी स्पष्टीकरण मांगा है। अधिकारियों ने सवाल किया कि यूजर्स को अक्सर उनकी बताई गई पसंद से अलग कंटेंट क्यों दिखाई देता है। सूत्रों के मुताबिक, यह स्थिति रिकमेंडेशन सिस्टम में मौजूद संभावित कमियों की ओर इशारा करती है। इन कमियों को समझने और उन्हें दूर करने की जरूरत है, ताकि यूजर्स तक पहुंचने वाले कंटेंट को लेकर सिस्टम अधिक जवाबदेह और प्रभावी बनाया जा सके।

सिंथेटिक कंटेंट को एल्गोरिदम के जरिए बढ़ावा क्यों मिल रहा है?
मेटा से खास तौर पर पूछा गया कि सिंथेटिक रूप से तैयार किए गए कंटेंट को उसके एल्गोरिदम के जरिए क्यों बढ़ावा मिल रहा है। अधिकारियों ने स्पष्ट रूप से कहा कि एक बार किसी कंटेंट को फ्लैग कर दिए जाने के बाद उसे आगे रिकमेंड नहीं किया जाना चाहिए। सरकार का जोर इस बात पर भी है कि ऐसे कंटेंट को बार-बार यूजर्स के सामने आने से रोका जाए। अधिकारियों के मुताबिक, केवल कंटेंट को हटाना ही पर्याप्त नहीं है। प्लेटफ़ॉर्म के रिकमेंडेशन सिस्टम को भी यह सुनिश्चित करना होगा कि पहले से फ्लैग या हटाया जा चुका कंटेंट दोबारा वायरल न हो और उसकी पहुंच को एल्गोरिदम के जरिए बढ़ावा न मिले।

ये भी पढ़ें: Govt Jobs 2026: बैंक से लेकर रेलवे और रिसर्च संस्थानों तक, अलग-अलग योग्यता वालों के लिए निकलीं नौकरियां; जानें सबकुछ

मेटा और MeitY के बीच बैठक में क्या हुआ?
ये स्पष्टीकरण शुक्रवार को मेटा की टेक्निकल टीम और इलेक्ट्रॉनिक्स एवं सूचना प्रौद्योगिकी मंत्रालय (MeitY) के अधिकारियों के बीच हुई बैठक के बाद सामने आए हैं। बैठक में कंपनी के प्रतिनिधियों ने ऑनलाइन हानिकारक कंटेंट से निपटने के लिए मौजूदा सिस्टम और प्रक्रियाओं के बारे में जानकारी दी। दोनों पक्षों के बीच इस मुद्दे पर तकनीकी स्तर की बातचीत जारी है और उन्होंने आगे भी संवाद जारी रखने पर सहमति जताई है। सूत्रों के मुताबिक, अगले सप्ताह बैठकों का एक और दौर होने की उम्मीद है।