OpenAI: ChatGPT ने पकड़ा चीनी एजेंट्स का खेल, सोशल मीडिया के लिए बना रहे थे निगरानी टूल

OpenAI की रिपोर्ट के मुताबिक, इन एजेंट्स में से एक यूजर ChatGPT की मदद से ऐसा AI-संचालित सोशल मीडिया लिसनिंग टूल बना रहा था जो सरकार से जुड़े क्लाइंट्स के लिए काम करता। इस टूल का मकसद X, Facebook, Instagram, Reddit, TikTok और YouTube जैसे प्लेटफॉर्म्स से डेटा स्कैन करना था। यह टूल ऑनलाइन बातचीत में चरमपंथी विचारों, धार्मिक और राजनीतिक कंटेंट की पहचान कर सकता था।

कंपनी ने बताया कि एक और अकाउंट जो किसी सरकारी संस्था से जुड़ा था, ChatGPT से एक प्रोजेक्ट रिपोर्ट तैयार करवा रहा था जिसका नाम था "हाई-रिस्क उइगर-रिलेटेड इन्फ्लो वार्निंग मॉडल"। यह मॉडल परिवहन बुकिंग और पुलिस रिकॉर्ड का विश्लेषण करके उइगर समुदाय की यात्राओं पर नजर रखने के लिए बनाया जा रहा था।

OpenAI ने अपनी रिपोर्ट में कहा, “चीन अपनी सत्तावादी AI रणनीति को काफी तेजी से आगे बढ़ा रहा है। कुछ गतिविधियां साफ तौर पर बड़े पैमाने पर ऑनलाइन और ऑफलाइन ट्रैकिंग से जुड़ी थीं, जो इस बात को रेखांकित करती हैं कि हमें इस दिशा में लगातार सतर्क रहना होगा।”

दिलचस्प बात यह है कि OpenAI के मॉडल चीन में आधिकारिक रूप से उपलब्ध नहीं हैं, यानी इन यूजर्स ने VPN के जरिए इसे एक्सेस किया था। रिपोर्ट में यह भी बताया गया कि कंपनी ने कुछ रूसी हैकर्स के अकाउंट्स को भी बैन किया है, जो ChatGPT का इस्तेमाल मैलवेयर, ट्रोजन और पासवर्ड चोरी करने वाले टूल्स विकसित करने में कर रहे थे।

OpenAI ने यह भी जोड़ा कि फरवरी 2024 से अब तक वह 40 से ज्यादा नेटवर्क्स को डिसरप्ट और रिपोर्ट कर चुकी है, जो उसके यूसेज पॉलिसी का उल्लंघन कर रहे थे। कंपनी का कहना है कि अधिकतर थ्रेट एक्टर्स AI को अपने मौजूदा सिस्टम्स में शामिल कर रहे हैं, न कि पूरी तरह नए AI वर्कफ्लो बना रहे हैं।