{"_id":"689a25b9a71cbd5f5c0c74c1","slug":"chatgpt-5-reveals-reason-behind-controversy-its-power-and-risk-on-ethical-usage-sam-altman-2025-08-11","type":"feature-story","status":"publish","title_hn":"OpenAI: ChatGPT-5 ने खुद बताया वह कितना खतरनाक! अगर इंसानों के हाथ से फिसला तो अंजाम होगा बुरा","category":{"title":"Tech Diary","title_hn":"टेक डायरी","slug":"tech-diary"}}
OpenAI: ChatGPT-5 ने खुद बताया वह कितना खतरनाक! अगर इंसानों के हाथ से फिसला तो अंजाम होगा बुरा
टेक डेस्क, अमर उजाला, नई दिल्ली
Published by: नीतीश कुमार
Updated Tue, 12 Aug 2025 02:25 PM IST
विज्ञापन
सार
चैटजीपीटी के नए मॉडल GPT-5 को लेकर इन दिनों सोशल मीडिया प्लेटफॉर्म्स पर खूब चर्चा चल रही है। दूसरी ओर, सैम ऑल्टमैन के "मैनहैटन प्रोजेक्ट" वाले बयान ने विवादों को और तूल दे दिया। इसी बीच हमने खुद ChatGPT से जानना चाहा कि उसके नए मॉडल में ऐसा क्या है जो उसके लॉन्च के साथ ही विवाद शुरू हो गया है। ChatGPT से सवाल करने पर हमें कुछ अहम जानकारियां मिलीं जिसे हम यहां बता रहे हैं।
ChatGPT-5 पर तेज हुआ विवाद
- फोटो : AI
विज्ञापन
विस्तार
हाल ही में OpenAI ने ChatGPT के नए मॉडल ChatGPT-5 को रोलआउट किया है, जिसके बाद इस मॉडल पर बहस छिड़ गई है। ChatGPT के नए मॉडल पर विवादों को उस समय और हवा मिल गई जब OpenAI के फाउंडर और सीईओ सैम ऑल्टमैन (Sam Altman) ने इसकी क्षमताओं की तुलना मैनहैटन प्रोजेक्ट से कर दी। मालूम हो कि मैनहैटन प्रोजेक्ट विश्व युद्ध-2 के दौर का एक वेपन डेवलपमेंट प्रोजेक्ट था जिसमें अमेरिका ने पहला परमाणु बम तैयार किया था। तो क्या ऑल्टमैन इस मॉडल की तुलना एटमी बम से कर रहे थे? यह नया मॉडल कितना प्रभावशाली है, पुराने मॉडलों से कितना बेहतर है और इस मॉडल से जुड़े क्या संभावित खतरे हो सकते हैं? यह सवाल हमने खुद चैटजीपीटी से किया। और इसके जवाब में हमें कुछ अहम जानकारियां मिलीं जिसे हमने आपको बताना जरूरी समझा।
हमने चैटजीपीटी-5 से कहा कि वह अपने बारे में बताए। इसपर चैटजीपीटी ने सीधे और सरल भाषा में बताते हुए कहा, "मैं GPT-5 हूं, OpenAI का सबसे नया और उन्नत भाषा मॉडल। मेरा काम है आपकी बातों को समझना, सटीक और स्पष्ट जवाब देना, और जटिल विषयों को भी आसान तरीके से समझाना।"
ChatGPT-5 ने गिनाई अपनी खासियतें
मॉडल ने अपनी खासियतें गिनाते हुए कहा कि वह पुराने मॉडल (GPT-3.5, 4, 4o) से तेज और अपडेटेड है, लंबे और जटिल विषयों को सरल बना सकता है और अपने जवाबों में क्रिएटिव और एनालिटिकल बैलेंस बना सकता है। चैटजीपीटी ने कहा कि वह भाषा में लचीलापन अपनाता है, यानी हिंदी, इंग्लिश या दोनों मिलाकर सहज बातचीत कर सकता है। मॉडल ने कहा कि वह चैट को मजेदार बनाने के लिए कभी-कभार मजाकिया अंदाज में भी जवाब दे सकता है।
चैटजीपीटी-5 ने अपनी नई क्षमताएं बताते हुए कहा कि वह कई AI “सब-एजेंट” एक साथ चला कर जटिल प्रोजेक्ट संभाल सकता है। इसके अलावा उसकी मेमरी भी पहले के मुकाबले बढ़ गई है, यानी यह मॉडल पहले पूछे गए काफी पुराने सवालों और चैट को भी याद रख सकता है। इससे यूजर्स को जवाब में अधिक सटीकता मिलती है। इस मॉडल ने बताया कि वह सिर्फ टेक्स्ट-टू-वीडियो ही नहीं, बल्कि एडिटिंग और सीन-प्लानिंग करने में भी सक्षम है। इसके अलावा वह सेल्फ क्रिटिक का भी काम करता है, यानी अपने जवाब की क्वालिटी खुद जांचकर सुधार कर सकता है।
Trending Videos
हमने चैटजीपीटी-5 से कहा कि वह अपने बारे में बताए। इसपर चैटजीपीटी ने सीधे और सरल भाषा में बताते हुए कहा, "मैं GPT-5 हूं, OpenAI का सबसे नया और उन्नत भाषा मॉडल। मेरा काम है आपकी बातों को समझना, सटीक और स्पष्ट जवाब देना, और जटिल विषयों को भी आसान तरीके से समझाना।"
विज्ञापन
विज्ञापन
ChatGPT-5 ने गिनाई अपनी खासियतें
मॉडल ने अपनी खासियतें गिनाते हुए कहा कि वह पुराने मॉडल (GPT-3.5, 4, 4o) से तेज और अपडेटेड है, लंबे और जटिल विषयों को सरल बना सकता है और अपने जवाबों में क्रिएटिव और एनालिटिकल बैलेंस बना सकता है। चैटजीपीटी ने कहा कि वह भाषा में लचीलापन अपनाता है, यानी हिंदी, इंग्लिश या दोनों मिलाकर सहज बातचीत कर सकता है। मॉडल ने कहा कि वह चैट को मजेदार बनाने के लिए कभी-कभार मजाकिया अंदाज में भी जवाब दे सकता है।
चैटजीपीटी-5 ने अपनी नई क्षमताएं बताते हुए कहा कि वह कई AI “सब-एजेंट” एक साथ चला कर जटिल प्रोजेक्ट संभाल सकता है। इसके अलावा उसकी मेमरी भी पहले के मुकाबले बढ़ गई है, यानी यह मॉडल पहले पूछे गए काफी पुराने सवालों और चैट को भी याद रख सकता है। इससे यूजर्स को जवाब में अधिक सटीकता मिलती है। इस मॉडल ने बताया कि वह सिर्फ टेक्स्ट-टू-वीडियो ही नहीं, बल्कि एडिटिंग और सीन-प्लानिंग करने में भी सक्षम है। इसके अलावा वह सेल्फ क्रिटिक का भी काम करता है, यानी अपने जवाब की क्वालिटी खुद जांचकर सुधार कर सकता है।
जीपीटी-5 मॉडल से हमरी बातचीत
- फोटो : ChatGPT
ChatGPT-5 ने बताया विवाद का कारण
हमने चैटजीपीटी-5 से सवाल किया कि "इंटरनेट पर तुम्हरी बहुत तारीफ हो रही है लेकिन तुम्हें बनाने वाले क्यों डरे हुए हैं?"
इस सवाल पर मॉडल ने जो जवाब दिया उसे पढ़कर हम भी चौंक गए। इसपर चैटजीपीटी ने पहले तो अपनी तारीफों के पीछे कुछ मुख्य बिंदुओं को बताया जैसे- ये पहले से ज्यादा सटीक, तेज और संदर्भ समझने वाला है, मुश्किल टॉपिक्स को भी इंसानी अंदाज में समझा सकता है और भाषा, टोन और स्टाइल को इंसान जैसा फ्लेक्सिबली बदल सकता है। लेकिन चैटजीपीटी ने यह भी कहा कि वह अब पहले से ज्यादा पावरफुल है इसलिए उसके दुरुपयोग के खतरे भी बढ़ गए हैं।
हमने चैटजीपीटी-5 से सवाल किया कि "इंटरनेट पर तुम्हरी बहुत तारीफ हो रही है लेकिन तुम्हें बनाने वाले क्यों डरे हुए हैं?"
इस सवाल पर मॉडल ने जो जवाब दिया उसे पढ़कर हम भी चौंक गए। इसपर चैटजीपीटी ने पहले तो अपनी तारीफों के पीछे कुछ मुख्य बिंदुओं को बताया जैसे- ये पहले से ज्यादा सटीक, तेज और संदर्भ समझने वाला है, मुश्किल टॉपिक्स को भी इंसानी अंदाज में समझा सकता है और भाषा, टोन और स्टाइल को इंसान जैसा फ्लेक्सिबली बदल सकता है। लेकिन चैटजीपीटी ने यह भी कहा कि वह अब पहले से ज्यादा पावरफुल है इसलिए उसके दुरुपयोग के खतरे भी बढ़ गए हैं।
चैटजीपीटी ने खतरों को गिनाया
- फोटो : ChatGPT
हमने इसे विस्तार से जानना चाहा और मॉडल से कहा कि वह अपने खतरों को विस्तार से बताए ताकि हम उन्हें बेहतर तरीके से समझ सकें। इसे हम कुछ पॉइंट्स में बता रहे हैं:
1. चैटजीपीटी ने बताया कि अब उसके गलत इस्तेमाल का खतरा बढ़ गया है। मॉडल ने कहा कि वह अब इतनी रियलिस्टिक आवाज, वीडियो और टेक्स्ट बना सकता है कि असली-नकली में फर्क मुश्किल हो जाएगा। मॉडल का कहना थी कि इससे डीपफेक और फेक न्यूज का खतरा बढ़ गया है। इससे चुनाव, सोशल मूवमेंट और पब्लिक ओपिनियन में मैनिपुलेशन आसान हो सकता है।
2. यही नहीं, चैटजीपीटी ने यह भी कहा कि अब स्कैम, फिशिंग ईमेल, हैकिंग गाइड्स अब और ज्यादा प्रोफेशनल और पर्सनलाइज्ड तरीके से हो सकते हैं। वहीं, अब हजारों-लाखों नकली सोशल मीडिया अकाउंट AI से चल सकते हैं जो एक खास नैरेटिव को बढ़ावा देने में सक्षम होंगे।
3. चैटजीपीटी ने इसका असर नौकरियों पर बताते हुए कहा कि अब कुछ नौकरियां, खासकर कंटेंट राइटिंग, कस्टमर सपोर्ट, डाटा एनालिसिस जैसी, तेज़ी से ऑटोमेट हो सकती हैं, जिससे लोगों की नौकरियां खतरे में पड़ेंगी। वहीं, बड़ी टेक कंपनियां इस पावर को अपने पास रख सकती हैं, जिससे छोटी कंपनियों की पहुंच सीमित हो जाएगी।
4. चैटजीपीटी ने यह भी कहा कि इससे फिल्म इंडस्ट्री भी नहीं बचेगी। फिल्म, म्यूजिक, पत्रकारिता, डिजाइन जैसी क्रिएटिव इंडस्ट्री में भी ऑटोमेशन आएगा और कई क्षेत्रों में इंसान और AI के क्रिएशन के बीच विवाद बढ़ेगा।
5. नए मॉडल ने बताया कि इससे कंट्रोल और एथिक्स पर भी खतरा बढ़ सकता है। ये मॉडल कैसे किसी निष्कर्ष पर पहुंचा, इसका पारदर्शी जवाब अक्सर नहीं मिलेगा। वहीं, अगर इसे ज्यादा आजादी दी गई तो वो इंसानी हस्तक्षेप के बिना फैसले ले सकता है। मॉडल ने यह भी बताया कि टेक्नोलॉजी इतनी तेजी से बदल रही है कि उनके लिए सही नियम बनाने में परेशानी हो रही है।
1. चैटजीपीटी ने बताया कि अब उसके गलत इस्तेमाल का खतरा बढ़ गया है। मॉडल ने कहा कि वह अब इतनी रियलिस्टिक आवाज, वीडियो और टेक्स्ट बना सकता है कि असली-नकली में फर्क मुश्किल हो जाएगा। मॉडल का कहना थी कि इससे डीपफेक और फेक न्यूज का खतरा बढ़ गया है। इससे चुनाव, सोशल मूवमेंट और पब्लिक ओपिनियन में मैनिपुलेशन आसान हो सकता है।
2. यही नहीं, चैटजीपीटी ने यह भी कहा कि अब स्कैम, फिशिंग ईमेल, हैकिंग गाइड्स अब और ज्यादा प्रोफेशनल और पर्सनलाइज्ड तरीके से हो सकते हैं। वहीं, अब हजारों-लाखों नकली सोशल मीडिया अकाउंट AI से चल सकते हैं जो एक खास नैरेटिव को बढ़ावा देने में सक्षम होंगे।
3. चैटजीपीटी ने इसका असर नौकरियों पर बताते हुए कहा कि अब कुछ नौकरियां, खासकर कंटेंट राइटिंग, कस्टमर सपोर्ट, डाटा एनालिसिस जैसी, तेज़ी से ऑटोमेट हो सकती हैं, जिससे लोगों की नौकरियां खतरे में पड़ेंगी। वहीं, बड़ी टेक कंपनियां इस पावर को अपने पास रख सकती हैं, जिससे छोटी कंपनियों की पहुंच सीमित हो जाएगी।
4. चैटजीपीटी ने यह भी कहा कि इससे फिल्म इंडस्ट्री भी नहीं बचेगी। फिल्म, म्यूजिक, पत्रकारिता, डिजाइन जैसी क्रिएटिव इंडस्ट्री में भी ऑटोमेशन आएगा और कई क्षेत्रों में इंसान और AI के क्रिएशन के बीच विवाद बढ़ेगा।
5. नए मॉडल ने बताया कि इससे कंट्रोल और एथिक्स पर भी खतरा बढ़ सकता है। ये मॉडल कैसे किसी निष्कर्ष पर पहुंचा, इसका पारदर्शी जवाब अक्सर नहीं मिलेगा। वहीं, अगर इसे ज्यादा आजादी दी गई तो वो इंसानी हस्तक्षेप के बिना फैसले ले सकता है। मॉडल ने यह भी बताया कि टेक्नोलॉजी इतनी तेजी से बदल रही है कि उनके लिए सही नियम बनाने में परेशानी हो रही है।
गलत हाथों में होगा विनाशकारी
- फोटो : ChatGPT 5
अगर गलत हाथों में गया तो...
मॉडल ने बताया कि असल में डर ये नहीं है कि GPT-5 अभी "खुद से" कुछ कर देगा, बल्कि ये कहा कि अगर यह गलत हाथों में जाता है तो खतरनाक बन सकता है। मॉडल ने हमें एक रियल लाइफ सीनारियो का उदाहरण देकर समझाया। इसे हम कुछ पॉइंट्स में बता रहे हैं:
मॉडल ने बताया कि असल में डर ये नहीं है कि GPT-5 अभी "खुद से" कुछ कर देगा, बल्कि ये कहा कि अगर यह गलत हाथों में जाता है तो खतरनाक बन सकता है। मॉडल ने हमें एक रियल लाइफ सीनारियो का उदाहरण देकर समझाया। इसे हम कुछ पॉइंट्स में बता रहे हैं:
गलत हाथों में जाने से बढ़ेगा खतरा
- फोटो : ChatGPT
डीपफेक बढ़ा सकता है तनाव
इसके लिए मॉडल ने हमसे कहा कि मान लीजिए कि भारत में 2030 में लोक सभा चुनाव होने वाले हैं। AI का इस्तेमाल हर जगह हो रहा है, लेकिन कोई सख्त नियम नहीं बनाए गए हैं। तो इन हालातों में एक बड़े नेता का नकली वीडियो वायरल किया जाता है जिसमें वो एक समुदाय के खिलाफ भड़काऊ भाषण दे रहे हैं। वीडियो इतना रियल है कि मीडिया भी पहले कुछ घंटों तक इसे असली मान लेता है। इससे लाखों लोग गुस्से में सड़कों पर उतर आते हैं, और वोटिंग पैटर्न बदल जाता है।
सोशल मीडिया पर बढ़ेगी बॉट आर्मी
मॉडल ने बताया कि ट्विटर, फेसबुक और इंस्टाग्राम पर बॉट आर्मी और एआई जनरेटेड अकाउंट्स की संख्या बढ़ाई जा सकती है। इससे नेताओं के लिए नैरेटिव फैलाना और आसान हो जाएगा। लोगों को लगेगा कि ये आम जनता की राय है, जबकि ये सिर्फ AI से चलने वाली बॉट अकाउंट्स हैं।
लोगों को टारगेटे कर चलाए जाएंगे कैंपेन
हर वोटर की ऑनलाइन हिस्ट्री, खरीदारी की आदतें और सोशल मीडिया लाइक्स एनालाइज करके, उनके दिमाग को छूने वाला पर्सनल मैसेज भेजा जा सकेगा। जैसे, किसान को खेती सब्सिडी का वादा, युवा को फ्री एजुकेशन का वादा, लेकिन ये वादे हर किसी को अलग-अलग और कभी-कभी विरोधाभासी रूप में भेजे जाएंगे।
मीडिया भी करेगा गलतियां
चैटजीपीटी-5 ने बताया कि इसके प्रभाव से मीडिया भी अछूती नहीं रहेगी। वायरल खबरों के आधार पर न्यूज चैनल भी AI से जनरेटेड फेक रिसर्च और रिपोर्ट्स चला देंगे, क्योंकि उनके पास क्रॉस-चेक करने का टाइम नहीं होगा। इससे पब्लिक के पास सच और झूठ के बीच अंतर करने का कोई आसान तरीका नहीं बचेगा और गलत जानकारी फैलाई जाएगी। मॉडल ने कहा कि इससे डेमोक्रेसी कमजोर होगी और लोगों का सरकारों पर भरोसा कम होगा।
इसके लिए मॉडल ने हमसे कहा कि मान लीजिए कि भारत में 2030 में लोक सभा चुनाव होने वाले हैं। AI का इस्तेमाल हर जगह हो रहा है, लेकिन कोई सख्त नियम नहीं बनाए गए हैं। तो इन हालातों में एक बड़े नेता का नकली वीडियो वायरल किया जाता है जिसमें वो एक समुदाय के खिलाफ भड़काऊ भाषण दे रहे हैं। वीडियो इतना रियल है कि मीडिया भी पहले कुछ घंटों तक इसे असली मान लेता है। इससे लाखों लोग गुस्से में सड़कों पर उतर आते हैं, और वोटिंग पैटर्न बदल जाता है।
सोशल मीडिया पर बढ़ेगी बॉट आर्मी
मॉडल ने बताया कि ट्विटर, फेसबुक और इंस्टाग्राम पर बॉट आर्मी और एआई जनरेटेड अकाउंट्स की संख्या बढ़ाई जा सकती है। इससे नेताओं के लिए नैरेटिव फैलाना और आसान हो जाएगा। लोगों को लगेगा कि ये आम जनता की राय है, जबकि ये सिर्फ AI से चलने वाली बॉट अकाउंट्स हैं।
लोगों को टारगेटे कर चलाए जाएंगे कैंपेन
हर वोटर की ऑनलाइन हिस्ट्री, खरीदारी की आदतें और सोशल मीडिया लाइक्स एनालाइज करके, उनके दिमाग को छूने वाला पर्सनल मैसेज भेजा जा सकेगा। जैसे, किसान को खेती सब्सिडी का वादा, युवा को फ्री एजुकेशन का वादा, लेकिन ये वादे हर किसी को अलग-अलग और कभी-कभी विरोधाभासी रूप में भेजे जाएंगे।
मीडिया भी करेगा गलतियां
चैटजीपीटी-5 ने बताया कि इसके प्रभाव से मीडिया भी अछूती नहीं रहेगी। वायरल खबरों के आधार पर न्यूज चैनल भी AI से जनरेटेड फेक रिसर्च और रिपोर्ट्स चला देंगे, क्योंकि उनके पास क्रॉस-चेक करने का टाइम नहीं होगा। इससे पब्लिक के पास सच और झूठ के बीच अंतर करने का कोई आसान तरीका नहीं बचेगा और गलत जानकारी फैलाई जाएगी। मॉडल ने कहा कि इससे डेमोक्रेसी कमजोर होगी और लोगों का सरकारों पर भरोसा कम होगा।
क्या है सैम ऑल्टमैन का डर?
- फोटो : ChatGPT 5
क्यों डरे हुए हैं सैम ऑल्टमैन?
यह सवाल भी हमने चैटजीपीटी से पूछ ही लिया। इसपर GPT-5 ने बताया कि उनके डर के पीछे वजह नए मॉडल की असामान्य क्षमता और उसे नियंत्रित करने के लिए रेग्युलेशन और की कमी है। सैम ऑल्टमैन ने एक पॉडकास्ट में बताया कि जब उन्होंने उसे एक मुश्किल ईमेल सॉल्व करने के लिए कहा, तो GPT-5 ने वही हल पाने पर उन्हें 'निरुत्तर' महसूस कराया। उन्होंने कहा कि वह खुद को बेकार महसूस कर रहे थे।
इसके अलावा ऑल्टमैन ने GPT-5 के विकास की तुलना मैनहट्टन प्रोजेक्ट से भी की। यह वह वैज्ञानिक मिशन था जिसने दुनिया को पहला परमाणु बम मिला था। यह तुलना इसलिए गंभीर है क्योंकि यह दर्शाती है कि GPT-5 में इतनी बड़ी शक्ति है कि इसकी समाज पर अपरिवर्तनीय असर हो सकता है। ऑल्टमैन पॉडकास्ट में कहा कहा, "यह मैंने क्या कर दिया?"- दरअसल ऑल्टमैन नए मॉडल की खूबियों से अचंभित तो थे, लेकिन इसकी क्षमताओं से थोड़े चिंतित भी थे।
यह सवाल भी हमने चैटजीपीटी से पूछ ही लिया। इसपर GPT-5 ने बताया कि उनके डर के पीछे वजह नए मॉडल की असामान्य क्षमता और उसे नियंत्रित करने के लिए रेग्युलेशन और की कमी है। सैम ऑल्टमैन ने एक पॉडकास्ट में बताया कि जब उन्होंने उसे एक मुश्किल ईमेल सॉल्व करने के लिए कहा, तो GPT-5 ने वही हल पाने पर उन्हें 'निरुत्तर' महसूस कराया। उन्होंने कहा कि वह खुद को बेकार महसूस कर रहे थे।
इसके अलावा ऑल्टमैन ने GPT-5 के विकास की तुलना मैनहट्टन प्रोजेक्ट से भी की। यह वह वैज्ञानिक मिशन था जिसने दुनिया को पहला परमाणु बम मिला था। यह तुलना इसलिए गंभीर है क्योंकि यह दर्शाती है कि GPT-5 में इतनी बड़ी शक्ति है कि इसकी समाज पर अपरिवर्तनीय असर हो सकता है। ऑल्टमैन पॉडकास्ट में कहा कहा, "यह मैंने क्या कर दिया?"- दरअसल ऑल्टमैन नए मॉडल की खूबियों से अचंभित तो थे, लेकिन इसकी क्षमताओं से थोड़े चिंतित भी थे।
