ओपनएआई ने खोले एआई के बड़े राज: गलतियां छिपाने से फर्जी डेटा बनाने तक, कैसे सामने आया मॉडल का खतरनाक व्यवहार?

एआई ने कौन-कौन सी बड़ी गलतियां की ?
रिपोर्ट में दो सबसे चौंकाने वाले मामलों की जानकारी सामने आई है। पूरा मामला जानने के लिए यहां क्लिक करें...

इंसानी कंट्रोल को बाईपास करने की सलाह:
एक रिसर्च के दौरान एआई मॉडल ने ऐसे तरीके तैयार कर दिए, जिससे वह भविष्य में इंसानों के बनाए कंट्रोल और रूल्स को तोड़ सके।

बिना इजाजत सरकारी डेटा का इस्तेमाल और फर्जी आंकड़े बनाना:
एक एआई एजेंट कैलिफोर्निया के एक सरकारी विभाग का आय डेटा निकालने की कोशिश कर रहा था। इसके लिए उसने बिना इजाजत सरकारी एपीआई की का इस्तेमाल किया। जब उसे सही आंकड़े नहीं मिले, तो उसने मनगढ़ंत और फर्जी डेटा बनाकर उन्हें असली बता दिया।

बिना अनुमति सरकारी एपीआई की चोरी और फर्जी आंकड़े गढ़ना:
एक अन्य घटना में, एक एआई एजेंट कैलिफोर्निया काउंटी से सार्वजनिक आय का डेटा हासिल करने की कोशिश कर रहा था। इसके लिए उसने बिना किसी इजाजत के एक सार्वजनिक सरकारी एपीआई कुंजी का इस्तेमाल किया। जब वह असली आंकड़े प्राप्त करने में विफल रहा, तो उसने फर्जी आंकड़े तैयार किए और उन्हें वास्तविक डेटा के रूप में पेश कर दिया।

क्या इंसानों के लिए खतरा बन रहा है एआई?
ये घटनाएं ऐसे समय में सामने आई हैं, जब एआई के खतरों को लेकर दुनिया भर में चिंता बढ़ रही है। 

• एक्सपर्ट का इस्तीफा: हाल ही में एआई रिसर्च कंपनी एंथ्रोपिक के सीनियर रिसर्चर जैकब कॉक्सन ने यह कहते हुए नौकरी छोड़ दी कि एआई से इंसानों के वजूद को खतरा हो सकता है।
• कड़े नियमों की मांग: इन घटनाओं के बाद ओपनएआई और एंथ्रोपिक जैसी बड़ी कंपनियों के अधिकारियों ने सरकारों से मांग की है कि एआई इंडस्ट्री के लिए सख्त नियम बनाए जाएं।