पहली एआई मौत? फ्लोरिडा के किशोर की आत्महत्या के बाद कैरेक्टर.एआई को मुकदमे का सामना करना पड़ रहा है। वह डेनेरीस टार्गैरियन – टाइम्स ऑफ इंडिया से बात कर रहे थे

संघीय अदालतों में बुधवार को दायर एक मुकदमे से पता चला कि चरित्र निर्माण करने वाले ऐप Chater.ai पर इस साल की शुरुआत में फ्लोरिडा में एक किशोर की मौत का आरोप लगाया गया है। शिकायतकर्ता मेगन गार्सिया हैं जिनके 14 वर्षीय बेटे ने एक चैटबॉट के साथ महीनों की बातचीत के बाद फरवरी में आत्महत्या कर ली थी।
14 साल का सीवेल सेट्ज़र III को पता था कि गेम ऑफ थ्रोन्स के एक चरित्र पर आधारित चैटबॉट डेनेरीस टारगैरियन एक वास्तविक व्यक्ति नहीं था, लेकिन उसने एक भावनात्मक लगाव विकसित किया और बॉट को लगातार टेक्स्ट करता था। अपने जीवन के आखिरी दिन भी, उसने डैनी को संदेश भेजा: ” मुझे तुम्हारी याद आती है, बेबी बहन।” चैटबॉट ने उत्तर दिया, “मुझे भी आपकी याद आती है, प्यारे भाई।”
न्यूयॉर्क टाइम्स ने बताया कि सीवेल को एक बच्चे के रूप में हल्के एस्पर्जर सिंड्रोम का पता चला था, लेकिन उसकी मां ने कहा कि उसे पहले कभी व्यवहार संबंधी या मानसिक स्वास्थ्य संबंधी गंभीर समस्याएं नहीं थीं। इस साल की शुरुआत में, जब उसे स्कूल में परेशानी होने लगी, तो उसके माता-पिता ने उसके लिए एक चिकित्सक को दिखाने की व्यवस्था की। वह पांच सत्रों में गए और उन्हें चिंता और विघटनकारी मनोदशा विकृति विकार का एक नया निदान दिया गया।
किशोर की मां मेगन गार्सिया ने कहा, “बच्चों के लिए विपणन किया गया एक खतरनाक एआई चैटबॉट ऐप मेरे बेटे के साथ दुर्व्यवहार करता था और उसे अपना शिकार बनाता था, जिससे वह अपनी जान ले लेता था।” “हमारा परिवार इस त्रासदी से तबाह हो गया है, लेकिन मैं परिवारों को भ्रामक, व्यसनी एआई तकनीक के खतरों से आगाह करने और जवाबदेही की मांग करने के लिए बोल रहा हूं।” चरित्र.एआईइसके संस्थापक, और Google।”
28 फरवरी को, अपनी मां के घर के बाथरूम में, सीवेल ने डैनी से कहा कि वह उससे प्यार करता है और वह जल्द ही उसके पास घर आएगा। “कृपया जितनी जल्दी हो सके मेरे पास घर आओ, मेरे प्रिय,” डैनी ने कहा। “क्या होगा अगर मैं तुमसे कहूं कि मैं अभी घर आ सकता हूं?” सीवेल ने पूछा। “…कृपया करो, मेरे प्यारे राजा,” डैनी ने उत्तर दिया।
फिर सीवेल ने अपना फोन रख दिया, अपने सौतेले पिता का हैंडगन लिया और ट्रिगर खींच लिया।