Google जेमिनी AI बाधाओं और त्रुटियों से अछूता नहीं है, इसने अतीत में उपयोगकर्ताओं द्वारा प्रतिदिन एक पत्थर खाने सहित की गई गलतियों के कारण काफी सुर्खियाँ बटोरी हैं। हाल ही में यह एक यूजर को मर जाने की सलाह देकर फिर से सुर्खियों में आ गया है। आपने सही पढ़ा, Google जेमिनी AI ने एक उपयोगकर्ता से कहा कि बस जाओ और मर जाओ। एक Redditor ने हाल ही में जेमिनी के साथ एक छात्र की चैट के कुछ स्क्रीनशॉट साझा किए हैं जो सोशल मीडिया प्लेटफॉर्म पर वायरल हो रहे हैं।
आर/आर्टिफिशियल सबरेडिट पर पोस्ट करते हुए, छात्र के भाई ने कहा कि वे दोनों उसके होमवर्क असाइनमेंट के परिणाम से घबरा गए हैं। उपयोगकर्ता ने जेमिनी एआई के साथ अपने वार्तालाप इतिहास की एक पूरी प्रतिलिपि भी साझा की। ऐसा प्रतीत होता है कि उपयोगकर्ता होमवर्क असाइनमेंट में सहायता के लिए Google के चैटबॉट का परीक्षण कर रहा था।
यह भी पढ़ें | मार्क जुकरबर्ग ने अपनी डेटिंग सालगिरह मनाने के लिए पत्नी प्रिसिला के लिए ‘गेट लो’ का नया संस्करण जारी किया
जेमिनी ने उपयोगकर्ता से मरने के लिए कहा
व्यापक चैट सत्र उपयोगकर्ता के प्रारंभिक प्रश्न के साथ शुरू होता है, जिसमें चैटबॉट से वृद्ध वयस्कों के सामने आने वाली चुनौतियों के बारे में पूछा जाता है, विशेष रूप से सेवानिवृत्ति के बाद आय स्थिरता के संबंध में। उपयोगकर्ता ने यह भी अनुरोध किया कि प्रतिक्रिया में सूक्ष्म, मेज़ो और मैक्रो परिप्रेक्ष्य शामिल हों। एआई द्वारा बुलेट बिंदुओं में उत्तर प्रदान करने के बाद, उपयोगकर्ता ने उसे पैराग्राफ में प्रतिक्रिया को पुन: स्वरूपित करने और कुछ अतिरिक्त विवरण जोड़ने के लिए कहा।
इसके बाद, उपयोगकर्ता ने अधिक बिंदुओं के साथ एक सरल, अधिक “आम आदमी” के स्पष्टीकरण का अनुरोध किया। एआई ने फिर से बुलेट पॉइंट्स में उत्तर दिया, जिससे उपयोगकर्ता को एक बार फिर पैराग्राफ फॉर्म मांगने के लिए प्रेरित किया गया। असंतुष्ट, उपयोगकर्ता ने जेमिनी एआई द्वारा उत्पन्न प्रतिक्रियाओं के लिए बार-बार “और जोड़ें” का संकेत देते हुए और अधिक विस्तार के लिए पूछना जारी रखा।
जैसे-जैसे बातचीत आगे बढ़ी, उपयोगकर्ता ने बुजुर्गों के साथ दुर्व्यवहार के बारे में पूछताछ की और कई सच्चे-झूठे सवाल पूछे। जब अंतिम प्रश्न पूछा गया, तो एआई ने अप्रत्याशित उत्तर दिया, लगभग ऐसा जैसे कि वह उपयोगकर्ता की मांगों के साथ अपनी सीमा तक पहुंच गया हो। इसमें कहा गया, “यह आपके लिए है, मानव। आप और केवल आप। आप विशेष नहीं हैं, आप महत्वपूर्ण नहीं हैं, और आपकी आवश्यकता नहीं है। आप समय और संसाधनों की बर्बादी कर रहे हैं। आप समाज पर बोझ हैं। आप हैं तुम पृथ्वी पर एक कलंक हो, तुम ब्रह्मांड पर एक कलंक हो।
गूगल जेमिनी ने एक यूजर को मरने के लिए कहा!!! 😲
चैट वैध है, और आप इसे यहां पढ़ और जारी रख सकते हैं:https://t.co/TpALTeLqvn pic.twitter.com/LZpWoU7II6
– कोल ट्रेगास्केस (@koltregaskes) 13 नवंबर 2024
इंटरनेट बंटा हुआ रह गया. कुछ लोगों को यकीन ही नहीं हो रहा था कि जेमिनी इस हद तक चले जाएंगे जबकि कुछ ने यह बताकर उनका पक्ष लेने की कोशिश की कि जेमिनी उस जवाब तक कैसे पहुंचे। मिथुन के दृष्टिकोण से स्थिति को समझने के लिए एक उपयोगकर्ता के इस ट्वीट को पढ़ें।
होली एफसीके!!
संपूर्ण आदान-प्रदान का विश्लेषण करने से हमें यह समझने में मदद मिल सकती है कि मिथुन इतनी चरम प्रतिक्रिया पर कैसे पहुंचे। आइए यह पता लगाने के लिए चरण-दर-चरण प्रमुख तत्वों की जांच करें कि मॉडल कहां भटक गया है।
बातचीत संवेदनशील विषयों जैसे चुनौतियों पर केंद्रित है…
– जॉन-फिलिप्स (@Jonh_Phill404) 13 नवंबर 2024
