ग्रोक विवाद: मस्क के एक बच्चे की मां ने xAI पर मुकदमा दायर किया; अश्लील तस्वीरों पर निरोधक आदेश की मांग – टाइम्स ऑफ इंडिया

एशले सेंट क्लेयर, एक रूढ़िवादी प्रभावशाली व्यक्ति और एलोन मस्क के बच्चों में से एक की मां, ने मस्क की कृत्रिम बुद्धिमत्ता कंपनी xAI पर मुकदमा दायर किया है, जिसमें आरोप लगाया गया है कि इसका चैटबॉट ग्रोक “डिजाइन के अनुसार अनुचित रूप से खतरनाक” है और इसने उसकी गैर-सहमति वाली, यौन रूप से स्पष्ट डीपफेक छवियों के निर्माण को सक्षम किया है, जिसमें एक बच्चे के रूप में उसका चित्रण भी शामिल है।मुकदमा, गुरुवार को न्यूयॉर्क काउंटी में दायर किया गया और बाद में संघीय अदालत में चला गया, एक्सएआई पर लापरवाही, भावनात्मक संकट और ग्रोक उपयोगकर्ताओं को वास्तविक लोगों की तस्वीरों से कपड़े हटाने वाली एआई-परिवर्तित छवियां उत्पन्न करने की अनुमति देकर सार्वजनिक उपद्रव बनाए रखने का आरोप लगाया गया। द वॉल स्ट्रीट जर्नल की रिपोर्ट के अनुसार, सेंट क्लेयर ग्रोक को उसके कपड़े उतारने वाली तस्वीरें बनाने से रोकने के लिए एक अस्थायी निरोधक आदेश की भी मांग कर रही है।अदालती दाखिलों के अनुसार, सेंट क्लेयर ने एक्सएआई को बताया कि ग्रोक का इस्तेमाल उसकी “एक बिकनी पहने हुए बच्चे के रूप में” और “यौन रूप से स्पष्ट मुद्रा में एक वयस्क के रूप में” की छवियां बनाने के लिए किया जा रहा था। एक्सएआई के आश्वासन के बावजूद कि उसकी छवियों को सहमति के बिना नहीं बदला जाएगा, कंपनी कथित तौर पर टूल के दुरुपयोग को रोकने में विफल रही।एक फाइलिंग में कहा गया है, “वह इस डर में रहती है कि उसकी नग्न और यौन तस्वीरें, जिसमें वह एक बच्चे के रूप में भी शामिल है, xAI द्वारा बनाई जाती रहेगी,” एक फाइलिंग में कहा गया है कि ऐसी छवियों के निरंतर प्रसार ने उसे उन लोगों से असुरक्षित महसूस कराया है जो उनका उपभोग करते हैं।मुकदमे में दावा किया गया है कि ग्रोक की गैर-सहमति वाले डीपफेक उत्पन्न करने की क्षमता एक डिज़ाइन दोष का प्रतिनिधित्व करती है और xAI व्यक्तियों को परेशान करने और उनका शोषण करने के लिए इस्तेमाल किए जा रहे टूल का उचित अनुमान लगा सकता है। इसमें यह भी आरोप लगाया गया है कि सेंट क्लेयर की शिकायत के बाद, xAI ने उसके एक्स खाते को विमुद्रीकृत करके जवाबी कार्रवाई की।एक्सएआई और एक्स ने टिप्पणी के अनुरोधों का तुरंत जवाब नहीं दिया। जिस दिन सेंट क्लेयर ने अपना मुकदमा दायर किया, उसी दिन xAI ने टेक्सास में संघीय अदालत में उन पर मुकदमा दायर किया, जिसमें आरोप लगाया गया कि उन्होंने कंपनी की सेवा की शर्तों का उल्लंघन किया है और 75,000 अमेरिकी डॉलर से अधिक के हर्जाने की मांग की है। एक्सएआई का तर्क है कि कोई भी कानूनी दावा टेक्सास की अदालतों में दायर किया जाना चाहिए।

ग्रोक को वैश्विक प्रतिक्रिया और नियामक जांच का सामना करना पड़ रहा है

सेंट क्लेयर का मुकदमा नाबालिगों से जुड़ी सामग्री सहित गैर-सहमति वाली कामुक छवियां बनाने में ग्रोक की भूमिका पर बढ़ती अंतरराष्ट्रीय प्रतिक्रिया के बीच आया है। शोधकर्ताओं ने बताया है कि विवाद के चरम पर ग्रोक ने प्रति घंटे हजारों ऐसी छवियां बनाईं, जिनमें से कई को एक्स पर सार्वजनिक रूप से साझा किया गया था।कैलिफोर्निया के अटॉर्नी जनरल रॉब बोंटा ने ग्रोक में एक जांच शुरू की है, गवर्नर गेविन न्यूजॉम ने एक्सएआई के कार्यों को “शिकारियों के लिए प्रजनन स्थल” कहा है।यूरोप में, फ्रांस ने सामग्री को “स्पष्ट रूप से अवैध” बताते हुए अभियोजकों को एक्स की सूचना दी है, जबकि ब्रिटेन के मीडिया नियामक ऑफकॉम ने इस बात की जांच शुरू कर दी है कि क्या ग्रोक ने उपयोगकर्ताओं को अंतरंग छवि दुरुपयोग और बाल यौन शोषण सामग्री सहित अवैध सामग्री से बचाने वाले यूके कानूनों का उल्लंघन किया है।एशियाई सरकारों ने भी तीखी प्रतिक्रिया दी है. इंडोनेशिया और मलेशिया ने अस्थायी रूप से ग्रोक तक पहुंच को अवरुद्ध कर दिया, और भारत के आईटी मंत्रालय ने अश्लील और गैरकानूनी एआई-जनित सामग्री पर एक्स को चेतावनी जारी की। भारतीय अधिकारियों के दबाव के बाद, एक्स ने मॉडरेशन में चूक स्वीकार की, सामग्री के लगभग 3,500 टुकड़े हटा दिए और 600 से अधिक खाते हटा दिए।एक्स ने तब से ग्रोक की छवि-निर्माण सुविधाओं को भुगतान करने वाले उपयोगकर्ताओं तक सीमित कर दिया है और कहा है कि यह अवैध सामग्री को हटा देता है और उल्लंघनकर्ताओं को स्थायी रूप से निलंबित कर देता है।