AI Misuse: एआई से फर्जी फोटो बनाकर ग्राहक ने स्विगी से लिया रिफंड, वायरल हुई तस्वीर

एआई से फर्जी तस्वीर बनाकर पाया रिफंड
आनलाइन सामान डिलीवर करते समय यदि सामान खराब हो जाता है तो कंपनियां ग्राहकों को रिफंड जारी करती हैं। अगर सामान खराब या टूटा-फूटा डिलीवर होता है तो ग्राहक को उसकी तस्वीर कस्टमर केयर के साथ साझा करनी होती है। तस्वीर की वेरिफिकेशन के बाद ग्राहक को सामान का रिफंड जारी किया जाता है। हालांकि, अब एआई से अच्छे सामान को टूटा-फूटा दिखाकर कुछ लोग रिफंड क्लेम करने लगे हैं।

AI से बनी फोटो पर इंस्टामार्ट ने दे दिया रिफंड
X (पूर्व में ट्विटर) पर एक पोस्ट में दावा किया गया कि इंस्टामार्ट के एक ग्राहक ने अंडों की डिलीवरी मिलने के बाद AI की मदद से तस्वीर में हेरफेर किया। पोस्ट के मुताबिक, ग्राहक ने अंडे का एक ट्रे मंगाया था, जिसमें एक अंडा टूटा हुआ था। हालांकि, ग्राहक ने Gemini Nano Banana का इस्तेमाल कर ट्रे में कई अंडे टूटने का फेक फोटो बनवा लिया। इसके बाद इसी फोटो का इस्तेमाल कर पूरे 245 रुपये का रिफंड भी हासिल कर लिया।
 

Someone ordered eggs on Instamart and only one came cracked.

Instead of just reporting it, they opened Gemini Nano and literally typed:
“apply more cracks.”
In a few seconds, AI turned that tray into 20+ cracked eggs — flawless, realistic, impossible to distinguish.

Support… pic.twitter.com/PnkNuG2Qt3

— kapilansh (@kapilansh_twt) November 24, 2025

नया डिटेक्शन सिस्टम अपनाने की जरूरत 
ऑनलाइन रिफंड सिस्टम के सामने एआई से चुनौतियां बढ़ रही हैं। पोस्ट में यूजर ने लिखा कि यदि 1% लोग भी ऐसा करने लगें तो क्विक कॉमर्स का ऑनलाइन बिजनेस बुरी तरह प्रभावित हो सकता है। यूजर ने बताया कि अब फेक तस्वीरों से निपटना कंपनियों की नई चुनौती बन गई है। ऐसी घटनाएं समाज में नैतिकता और तकनीक के भविष्य पर गंभीर सवाल उठाती हैं।

पोस्ट में यूजर ने लिख कि रिफंड सिस्टम ऐसे समय में डिजाइन किए थे, जब फोटो पर भरोसा किया जा सकता था। अब 2025 के एआई के सामने ये सिस्टम टिक नहीं पा रहे हैं। यूजर ने बताया कि असली समस्या वेरिफिकेशन सिस्टम की है, जो अभी भी पुराने तौर तरीकों पर चल रहा है। पोस्ट में यूजर ने सुझाव दिया कि कंपनियों को जल्द से जल्द AI-डिटेक्शन सिस्टम अपनाना चाहिए।