फ्रांस की महिला ने बेटी की आत्महत्या पर टिकटॉक पर मुकदमा दायर किया, हानिकारक सामग्री के लिए ऐप को दोषी ठहराया

उस पल में जब तीन साल पहले उसकी दुनिया बिखर गई थी, स्टेफनी मिस्त्रे ने अपनी 15 वर्षीय बेटी मैरी को बेडरूम में बेजान पाया, जहां उसने आत्महत्या कर ली थी।

मिस्त्रे ने सितंबर 2021 के उस दिन का वर्णन करते हुए कहा, “मैं एक सेकंड के एक अंश में प्रकाश से अंधकार की ओर चली गई, जिसने चीनी स्वामित्व वाले वीडियो ऐप टिकटॉक के खिलाफ उनकी लड़ाई की शुरुआत को चिह्नित किया, जिस पर वह अपनी बेटी को निराशा की ओर धकेलने का आरोप लगाती हैं।”

अपनी बेटी की मृत्यु के बाद उसके फोन को खंगालने पर, मिस्त्रे को आत्महत्या के तरीकों को बढ़ावा देने वाले वीडियो, ट्यूटोरियल और टिप्पणियां मिलीं, जो उपयोगकर्ताओं को “केवल आत्महत्या के प्रयासों” से आगे बढ़ने के लिए प्रोत्साहित करती हैं। उन्होंने कहा कि टिकटॉक के एल्गोरिदम ने बार-बार उनकी बेटी तक ऐसी सामग्री पहुंचाई है।

फ्रांस के दक्षिण में मार्सिले के पास कैसिस में रहने वाले मिस्त्रे ने कहा, “यह ब्रेनवॉशिंग था।” “उन्होंने अवसाद और आत्म-नुकसान को सामान्य बना दिया, इसे अपनेपन की एक विकृत भावना में बदल दिया।”

अब मिस्त्रे और छह अन्य परिवार टिकटॉक फ्रांस पर मुकदमा कर रहे हैं, जिसमें मंच पर हानिकारक सामग्री को नियंत्रित करने में विफल रहने और बच्चों को जीवन के लिए खतरा पैदा करने वाली सामग्री के संपर्क में लाने का आरोप लगाया गया है। सात परिवारों में से दो को अपने बच्चे को खोना पड़ा।

मुकदमे के बारे में पूछे जाने पर, टिकटॉक ने कहा कि उसके दिशानिर्देश आत्महत्या को बढ़ावा देने पर रोक लगाते हैं और खतरनाक पोस्ट को हटाने के लिए वह दुनिया भर में 40,000 ट्रस्ट और सुरक्षा पेशेवरों को नियुक्त करता है – जिनमें से सैकड़ों फ्रेंच भाषी मॉडरेटर हैं। कंपनी ने यह भी कहा कि वह उन उपयोगकर्ताओं को मानसिक स्वास्थ्य सेवाओं के लिए संदर्भित करती है जो आत्महत्या से संबंधित वीडियो खोजते हैं।

खुद को मारने से पहले, मैरी ले टाईक ने अपने जीवन में विभिन्न कठिनाइयों का हवाला देते हुए, अपने फैसले को समझाने के लिए कई वीडियो बनाए और लुइसियाना स्थित इमो रैप समूह सुसाइडबॉयज़ के एक गीत को उद्धृत किया, जो टिकटॉक पर लोकप्रिय हैं।

उसकी मां का यह भी दावा है कि उसकी बेटी को स्कूल और ऑनलाइन में बार-बार धमकाया और परेशान किया गया। मुकदमे के अलावा, 51 वर्षीय मां और उनके पति ने मैरी के पांच सहपाठियों और उसके पिछले हाई स्कूल के खिलाफ शिकायत दर्ज की है।

सबसे बढ़कर, मिस्त्रे ने टिकटॉक को दोषी ठहराते हुए कहा कि ऐप को “एक सहानुभूतिशील और संवेदनशील किशोर के हाथों में सौंपना, जो नहीं जानता कि क्या वास्तविक है और क्या नहीं, एक टिकते बम की तरह है।”

पेरिस-सिट यूनिवर्सिटी में मनोविज्ञान और संज्ञानात्मक तंत्रिका विज्ञान के प्रोफेसर ग्रेगोइरे बोर्स्ट ने कहा, वैज्ञानिकों ने सोशल मीडिया और मानसिक स्वास्थ्य समस्याओं या मनोवैज्ञानिक नुकसान के बीच कोई स्पष्ट संबंध स्थापित नहीं किया है।

“इस क्षेत्र में स्पष्ट कारण और प्रभाव दिखाना बहुत मुश्किल है,” बोर्स्ट ने एक प्रमुख सहकर्मी-समीक्षा अध्ययन का हवाला देते हुए कहा, जिसमें पाया गया कि किशोरों की भलाई में केवल 0.4% अंतर को सोशल मीडिया के उपयोग के लिए जिम्मेदार ठहराया जा सकता है।

इसके अतिरिक्त, बोर्स्ट ने बताया कि कोई भी मौजूदा अध्ययन यह नहीं बताता है कि टिकटॉक स्नैपचैट, एक्स, फेसबुक या इंस्टाग्राम जैसे प्रतिद्वंद्वी ऐप्स से अधिक हानिकारक है।

जबकि अधिकांश किशोर महत्वपूर्ण नुकसान के बिना सोशल मीडिया का उपयोग करते हैं, बोर्स्ट ने कहा, वास्तविक जोखिम उन लोगों के साथ है जो पहले से ही बदमाशी या पारिवारिक अस्थिरता जैसी चुनौतियों का सामना कर रहे हैं।

बोर्स्ट ने कहा, “जब किशोर पहले से ही अपने बारे में बुरा महसूस करते हैं और विकृत छवियों या हानिकारक सामाजिक तुलनाओं के संपर्क में समय बिताते हैं,” तो इससे उनकी मानसिक स्थिति खराब हो सकती है।

वकील लॉर बॉउट्रॉन-मार्मियन, जो टिकटॉक पर मुकदमा करने वाले सात परिवारों का प्रतिनिधित्व करते हैं, ने कहा कि उनका मामला “व्यापक सबूत” पर आधारित है। बॉउट्रॉन-मार्मियन ने कहा, “कंपनी अब इस दावे के पीछे नहीं छिप सकती कि यह उनकी ज़िम्मेदारी नहीं है क्योंकि वे सामग्री नहीं बनाते हैं।”

मुकदमे में आरोप लगाया गया है कि टिकटॉक का एल्गोरिदम कमजोर उपयोगकर्ताओं को लाभ के लिए निराशा के चक्र में फंसाने के लिए बनाया गया है और परिवारों के लिए क्षतिपूर्ति की मांग करता है।

मिस्त्रे ने कहा, “उनकी रणनीति कपटपूर्ण है।” “वे बच्चों को मंच पर बनाए रखने के लिए उन्हें अवसादग्रस्त सामग्री में फंसाते हैं, और उन्हें आकर्षक पुनर्सगाई उत्पादों में बदल देते हैं।”

बॉउट्रॉन-मार्मियन ने नोट किया कि टिकटॉक का चीनी संस्करण, डॉयिन, युवा उपयोगकर्ताओं के लिए बहुत सख्त सामग्री नियंत्रण पेश करता है। इसमें 14 वर्ष से कम उम्र के उपयोगकर्ताओं के लिए अनिवार्य “युवा मोड” शामिल है जो स्क्रीन समय को प्रतिदिन 40 मिनट तक सीमित करता है और केवल अनुमोदित सामग्री प्रदान करता है।

“यह साबित करता है कि वे जब चाहें तब सामग्री को मॉडरेट कर सकते हैं,” बुट्रॉन-मार्मियन ने कहा। “यहाँ इन सुरक्षा उपायों की अनुपस्थिति बता रही है।”

अप्रैल में फ्रांसीसी राष्ट्रपति इमैनुएल मैक्रॉन द्वारा कमीशन की गई “चिल्ड्रन एंड स्क्रीन्स” शीर्षक वाली एक रिपोर्ट, जिसमें बोर्स्ट ने योगदान दिया था, ने निष्कर्ष निकाला कि कुछ एल्गोरिदम सुविधाओं को नशे की लत माना जाना चाहिए और फ्रांस में किसी भी ऐप से प्रतिबंधित किया जाना चाहिए। रिपोर्ट में फ़्रांस में 15 साल से कम उम्र के नाबालिगों के लिए सोशल मीडिया की पहुंच को प्रतिबंधित करने का भी आह्वान किया गया है। कोई भी उपाय नहीं अपनाया गया है.

टिकटॉक, जिसे राष्ट्रपति डोनाल्ड ट्रम्प द्वारा प्रतिबंध निलंबित किए जाने तक अमेरिका में बंद होने का सामना करना पड़ा था, वह भी वैश्विक स्तर पर जांच के दायरे में आ गया है।

अमेरिका ने माता-पिता द्वारा इसी तरह के कानूनी प्रयास देखे हैं। लॉस एंजिल्स काउंटी में एक मुकदमे में मेटा और उसके प्लेटफॉर्म इंस्टाग्राम और फेसबुक, साथ ही स्नैपचैट और टिकटॉक पर दोषपूर्ण उत्पादों को डिजाइन करने का आरोप लगाया गया है जो गंभीर चोटों का कारण बनते हैं। मुकदमे में तीन किशोरों की सूची है जिनकी आत्महत्या से मृत्यु हो गई। एक अन्य शिकायत में, दो आदिवासी देशों ने यूट्यूब के मालिक अल्फाबेट सहित प्रमुख सोशल मीडिया कंपनियों पर मूल युवाओं के बीच आत्महत्या की उच्च दर में योगदान देने का आरोप लगाया है।

मेटा के सीईओ मार्क जुकरबर्ग ने पिछले साल अमेरिकी सीनेट में गवाही देते हुए उन माता-पिता से माफी मांगी जिन्होंने अपने बच्चों को खो दिया था।

दिसंबर में, ऑस्ट्रेलिया ने 16 साल से कम उम्र के बच्चों के सोशल मीडिया खातों पर प्रतिबंध लगाने वाला एक अभूतपूर्व कानून बनाया।

फ्रांस में, बॉउट्रॉन-मार्मियन को उम्मीद है कि टिकटॉक लिमिटेड टेक्नोलॉजीज, बाइटडांस के लिए यूरोपीय संघ की सहायक कंपनी – चीनी कंपनी जो टिकटॉक की मालिक है – 2025 की पहली तिमाही में आरोपों का जवाब देगी। अधिकारी बाद में तय करेंगे कि परीक्षण होगा या नहीं।

एसोसिएटेड प्रेस द्वारा संपर्क किए जाने पर, टिकटॉक ने कहा कि उसे फ्रांसीसी मुकदमे के बारे में सूचित नहीं किया गया था, जो नवंबर में दायर किया गया था। बुट्रोन-मार्मियन ने कहा कि फ्रांसीसी न्याय प्रणाली को शिकायत पर कार्रवाई करने और आयरलैंड में अधिकारियों को – जहां टिकटॉक का यूरोपीय मुख्यालय है – कंपनी को औपचारिक रूप से सूचित करने में कई महीने लग सकते हैं।

इसके बजाय, टिकटॉक के प्रवक्ता ने कंपनी के दिशानिर्देशों पर प्रकाश डाला जो आत्महत्या या खुद को नुकसान पहुंचाने वाली सामग्री को प्रतिबंधित करते हैं।

आलोचकों का तर्क है कि टिकटॉक के मजबूत मॉडरेशन के दावे कम साबित होते हैं।

सेंटर फॉर काउंटरिंग डिजिटल हेट के सीईओ इमरान अहमद ने टिकटॉक के इस दावे को खारिज कर दिया कि अप्रैल और जून के बीच 98.8% से अधिक हानिकारक वीडियो को चिह्नित और हटा दिया गया था।

अपने संयम प्रयासों के अंध बिंदुओं के बारे में पूछे जाने पर, सोशल मीडिया प्लेटफ़ॉर्म का दावा है कि उपयोगकर्ता अस्पष्ट भाषा या संकेतों का उपयोग करके पता लगाने में सक्षम हैं, जिन्हें चिह्नित करने के लिए एल्गोरिदम को संघर्ष करना पड़ता है, अहमद ने कहा।

शब्द “एल्गोस्पीक” का प्रयोग खुद को काटने के बारे में बात करने के लिए ज़ेबरा या आर्मडिलो इमोजी का उपयोग करने या आत्महत्या के संकेत के रूप में स्विस ध्वज इमोजी जैसी तकनीकों का वर्णन करने के लिए किया गया है।

अहमद ने कहा, ऐसे कोड शब्द “विशेष रूप से परिष्कृत नहीं हैं”। अहमद ने कहा, “स्वतंत्र शोधकर्ताओं, पत्रकारों और अन्य लोगों द्वारा खोजे जाने पर टिकटॉक उन्हें ढूंढ नहीं पाता, इसका एकमात्र कारण यह है कि वे पर्याप्त ध्यान नहीं दे रहे हैं।”

अहमद के संगठन ने 2022 में टिकटॉक पर एक 13 वर्षीय लड़की के अनुभव का अनुकरण करते हुए एक अध्ययन किया।

अहमद ने कहा, “2.5 मिनट के भीतर, खातों में खुद को नुकसान पहुंचाने वाली सामग्री भेज दी गई।” “आठ मिनट तक, उन्होंने खाने में गड़बड़ी की सामग्री देखी। औसतन, हर 39 सेकंड में, एल्गोरिदम हानिकारक सामग्री को धकेलता है।

एल्गोरिथम “जानता है कि खाने की गड़बड़ी और खुद को नुकसान पहुंचाने वाली सामग्री युवा लड़कियों के लिए विशेष रूप से लत लगाने वाली होती है”।

मिस्त्रे के लिए, लड़ाई बेहद व्यक्तिगत है। अपनी बेटी के कमरे में बैठकर, जहां उसने पिछले तीन वर्षों से सजावट को अछूता रखा है, उसने कहा कि माता-पिता को सोशल मीडिया के खतरों के बारे में पता होना चाहिए।

उन्होंने कहा, अगर उन्हें अपनी बेटी को भेजी जा रही सामग्री के बारे में पता होता, तो वह उसे टिकटॉक पर कभी अनुमति नहीं देतीं। जब वह मैरी को एक “सनी, मज़ाकिया” किशोरी के रूप में वर्णित करती है, जो वकील बनने का सपना देखती है, तो उसकी आवाज़ टूट जाती है।

उन्होंने कहा, “मैरी की याद में, जब तक मुझमें ताकत है, मैं लड़ती रहूंगी।” “माता-पिता को सच्चाई जानने की ज़रूरत है। हमें इन प्लेटफार्मों का सामना करना चाहिए और जवाबदेही की मांग करनी चाहिए।