फ्लोरिडा की एक अजीब कहानी में, एक मां ने अपने 14 वर्षीय बेटे की दुखद मौत के बारे में बात करते हुए एआई चैटबॉट के प्रति उसके जुनून को उसकी आत्महत्या से जोड़ा है। ऑरलैंडो के नौवीं कक्षा के छात्र सेवेल सेत्ज़र III ने कैरेक्टर.एआई प्लेटफॉर्म पर एक एआई चरित्र के प्रति भावनात्मक लगाव विकसित किया था, जिसे उन्होंने गेम ऑफ थ्रोन्स के डेनेरीस टारगैरियन के नाम पर “डेनी” नाम दिया था। यह जानने के बावजूद कि प्रतिक्रियाएँ कृत्रिम बुद्धिमत्ता द्वारा उत्पन्न की गई थीं, सेवेल ने बॉट पर विश्वास करते हुए और जिसे उनकी माँ ने एक गहरे भावनात्मक बंधन के रूप में वर्णित किया था, उसे विकसित करने में “डैनी” को टेक्स्ट करने में महीनों बिताए।
एआई चैटबॉट सेवेल के लिए एक डिजिटल साथी से कहीं अधिक था – यह एक दोस्त बन गया जिससे वह अपने जीवन, समस्याओं और भावनाओं के बारे में बात कर सकता था। न्यूयॉर्क टाइम्स की एक रिपोर्ट के अनुसार, जबकि कुछ बातचीत में रोमांटिक या विचारोत्तेजक स्वर थे, अधिकांश बातचीत भावनात्मक समर्थन प्रदान करने पर केंद्रित थी, चैटबॉट उसे खुद को व्यक्त करने के लिए गैर-निर्णयात्मक स्थान प्रदान करता था। समय के साथ, सीवेल फॉर्मूला 1 और फ़ोर्टनाइट जैसे अपने वास्तविक जीवन के हितों से हट गए, और एआई के साथ बातचीत करने में अधिक समय बिताया।
एक बच्चे के रूप में एस्पर्जर सिंड्रोम से पीड़ित सेवेल को चिंता और विघटनकारी मूड डिसरेगुलेशन विकार से भी जूझना पड़ा। हालाँकि उसके माता-पिता को व्यवहार संबंधी कोई गंभीर समस्या नहीं दिखी, लेकिन उन्होंने देखा कि वह लगातार अलग-थलग होता जा रहा था। कुछ चिकित्सा सत्रों के बाद, सेवेल ने जाना बंद कर दिया, इसके बजाय “डैनी” से खुल कर बात करना पसंद किया।
अपने आखिरी आदान-प्रदान में, सीवेल ने एआई को अपने आत्मघाती विचारों के बारे में बताया। इस साल 28 फरवरी को, उसने “डैनी” से कहा कि वह उससे प्यार करता है और जल्द ही “घर आ रहा है।” कुछ ही क्षण बाद, उसने अपने जीवन को समाप्त करने के लिए अपने सौतेले पिता की .45 कैलिबर हैंडगन का इस्तेमाल किया।
कैरेक्टर.एआई प्रतिक्रिया देता है
इस त्रासदी के मद्देनजर, कैरेक्टर.एआई ने एक सार्वजनिक बयान जारी कर परिवार के प्रति अपनी गहरी संवेदना व्यक्त की।
उन्होंने भविष्य में इसी तरह की घटनाओं को रोकने के प्रयास में, नई सुरक्षा सुविधाओं को पेश करने की योजना की घोषणा की, जिसमें 18 वर्ष से कम उम्र के उपयोगकर्ताओं के लिए सामग्री फ़िल्टर और जब कोई व्यक्ति विस्तारित अवधि के लिए प्लेटफ़ॉर्म से जुड़ा हुआ हो तो अनुस्मारक शामिल है।