सैन फ्रांसिस्को ने AI डीपफेक पोर्नोग्राफ़ी साइटों पर मुकदमा दायर किया: 200 मिलियन विज़िट महिलाओं और लड़कियों के कपड़े उतारने की हानिकारक प्रवृत्ति को बढ़ावा देती हैं – टाइम्स ऑफ़ इंडिया

सैन फ्रांसिस्कोके मुख्य डिप्टी सिटी अटॉर्नी, यवोन मेरे ने एक मुकदमा दायर किया है मुकदमा उन 16 वेबसाइटों के खिलाफ़, जो महिलाओं और लड़कियों की सहमति के बिना उनके कपड़े उतारकर डीपफेक पोर्नोग्राफ़ी बनाने के लिए एआई का उपयोग करती हैं।
इस अभूतपूर्व कानूनी कार्रवाई का उद्देश्य उन लोकप्रिय साइटों को बंद करना है, जो किशोर लड़कों के बीच एक हानिकारक प्रवृत्ति के रूप में सामने आई हैं, जो अपनी महिला सहपाठियों की छवियों में हेरफेर करने के लिए नग्नता ऐप का उपयोग करती हैं।
के अनुसार न्यूयॉर्क टाइम्सइस वर्ष के पहले छह महीनों में 16 लक्षित साइटों पर 200 मिलियन बार विज़िट की गई। इन वेबसाइटों के पीछे की संस्थाएँ कैलिफ़ोर्निया, न्यू मैक्सिको, यूनाइटेड किंगडम और एस्टोनिया में स्थित हैं। जब टिप्पणी के लिए संपर्क किया गया, तो वेबसाइटों के प्रतिनिधि या तो अनुपलब्ध थे या उन्होंने कोई प्रतिक्रिया नहीं दी।
एक साइट अपनी सेवाओं का प्रचार इस तरह से करती है, “क्या कोई है जो कपड़े उतार सके?” दूसरी साइट कहती है, “कल्पना कीजिए कि आप उसे डेट पर ले जाकर समय बर्बाद कर रहे हैं,” और उपयोगकर्ताओं से आग्रह करती है कि वे वेबसाइट का उपयोग “उसकी नग्न तस्वीरें पाने के लिए करें।” कुछ साइटें आरंभिक तस्वीरें निःशुल्क देती हैं, लेकिन बाद में अधिक शुल्क लेती हैं, क्रिप्टोकरेंसी या क्रेडिट कार्ड से भुगतान स्वीकार करती हैं।
इन साइटों द्वारा उपयोग की जाने वाली डीपफेक तकनीक, कपड़े पहने चित्रों से प्रामाणिक दिखने वाली नग्न तस्वीरें बनाने के लिए वास्तविक पोर्नोग्राफी और बाल शोषण को दर्शाने वाली तस्वीरों के साथ प्रशिक्षित एआई मॉडल पर निर्भर करती है।
कार्यालय के शीर्ष वकील, सिटी अटॉर्नी डेविड चिउ ने तस्वीरों के पीछे के लोगों के लिए न्यूनतम नतीजों पर जोर दिया। उन्होंने कहा कि एक बार तस्वीरें प्रसारित होने के बाद जिम्मेदार विशिष्ट वेबसाइटों की पहचान करना चुनौतीपूर्ण होता है, जिससे पीड़ितों के लिए सफलतापूर्वक कानूनी कार्रवाई करना मुश्किल हो जाता है।
चिऊ ने एक साक्षात्कार में बताया, “यह लेख हमारे कार्यालय में इधर-उधर घूम रहा है, और हम सोच रहे हैं, ‘हम इस बारे में क्या कर सकते हैं?'” “किसी ने भी इन कंपनियों को जवाबदेह ठहराने की कोशिश नहीं की है।”
सारा ईसेनबर्ग, प्रमुख कानूनी इकाई की प्रमुख सामाजिक समस्याएंने इस बात पर प्रकाश डाला कि किशोरों को सुरक्षित तकनीक के उपयोग के बारे में शिक्षित करने मात्र से इस समस्या का समाधान नहीं हो सकता। किसी भी फोटो को विषय की सहमति के बिना छेड़छाड़ की जा सकती है, जिससे पारंपरिक सुरक्षा उपाय अप्रभावी हो जाते हैं।
ईसेनबर्ग ने कहा, “आप जितना चाहें इंटरनेट और सोशल मीडिया के जानकार हो सकते हैं, और आप अपने बच्चों को ऑनलाइन सुरक्षा के सभी तरीके सिखा सकते हैं, लेकिन इनमें से कोई भी उन्हें इन साइटों का उपयोग करके वास्तव में भयानक, हानिकारक चीजें करने से नहीं बचा सकता है।”
मुक़दमे में इन वेबसाइटों को बंद करने और भविष्य में डीपफेक पोर्नोग्राफ़ी बनाने से उन्हें स्थायी रूप से रोकने के लिए निषेधाज्ञा की मांग की गई है। इसमें नागरिक दंड और वकीलों की फीस की भी मांग की गई है।
मुकदमे में तर्क दिया गया है कि ये साइटें राज्य और संघीय बदला पोर्नोग्राफी कानून, बाल पोर्नोग्राफी कानून और कैलिफोर्निया के अनुचित प्रतिस्पर्धा कानून का उल्लंघन करती हैं, जो गैरकानूनी और अनुचित व्यावसायिक प्रथाओं को प्रतिबंधित करता है।
मेरे ने न्यूयॉर्क टाइम्स के एक लेख में डीपफेक छवियों के हानिकारक प्रभावों के बारे में पढ़ने के बाद कार्रवाई की। उसने तुरंत ईसेनबर्ग से संपर्क किया, और साथ में, उन्होंने मुकदमा तैयार करने के लिए चिऊ से समर्थन मांगा।
“इस प्रौद्योगिकी का उपयोग निर्माण के लिए किया गया है डीपफेक नग्नता चिऊ ने कहा, “टेलर स्विफ्ट से लेकर सामान्य मिडिल स्कूल की लड़कियों तक, हर किसी की तस्वीरें ऐसी हैं, जिनका कोई स्पष्ट परिणाम नहीं होता।” “इन तस्वीरों का इस्तेमाल कभी-कभी पीड़ितों से पैसे ऐंठने या उन्हें अपमानित करने और परेशान करने के लिए किया जाता है।”
विशेषज्ञों ने चेतावनी दी है कि डीपफेक पोर्नोग्राफी पीड़ितों के लिए गंभीर जोखिम पैदा करती है, जिससे उनके मानसिक स्वास्थ्य, प्रतिष्ठा, कॉलेज और नौकरी की संभावनाओं पर असर पड़ता है। समस्या तब और बढ़ जाती है जब छवियों की उत्पत्ति का पता लगाना मुश्किल होता है, जिससे कानूनी उपाय चुनौतीपूर्ण हो जाते हैं।
चिऊ ने माना कि “इस रणनीति को व्हाक-ए-मोल दृष्टिकोण के रूप में देखा जा सकता है क्योंकि इससे और भी साइटें उभर सकती हैं।” हालांकि, मुकदमे में प्रस्ताव है कि जैसे-जैसे और साइटें खोजी जाएंगी, उन्हें जोड़ा जाएगा, ताकि समस्या के विकसित होने पर व्यापक प्रवर्तन हो सके।
सैन फ्रांसिस्को, एक केंद्र होने के नाते कृत्रिम बुद्धि उद्योग ओपनएआई और एंथ्रोपिक जैसी प्रमुख कंपनियों के साथ, यह कानूनी चुनौती के लिए एक उपयुक्त स्थान है। चिउ ने एआई उद्योग के सकारात्मक योगदान को स्वीकार किया लेकिन बताया कि डीपफेक पोर्नोग्राफ़ी एक “अंधेरे पक्ष” का प्रतिनिधित्व करती है जिसे संबोधित किया जाना चाहिए।
चिऊ ने कहा, “एक सरकारी वकील के रूप में तेज़ी से बदलते उद्योग के साथ तालमेल बिठाना चुनौतीपूर्ण है।” “लेकिन इसका मतलब यह नहीं है कि हमें कोशिश नहीं करनी चाहिए।”
यह मुकदमा हानिकारक सामग्री बनाने में एआई प्रौद्योगिकी के दुरुपयोग से निपटने और इन विनाशकारी प्रथाओं को जारी रखने वालों को जवाबदेह ठहराने के लिए एक महत्वपूर्ण प्रयास है।