डार्क एआई चैटबॉट्स: द न्यू वर्ल्ड ऑफ क्लोसेट पेडोस और चरमपंथी

एआई – वरदान या बैन? उत्तर, हमेशा की तरह, इस बात पर निर्भर करता है कि कौन निर्माण और इसे आगे बढ़ा रहा है। एआई नियमों पर एक उग्र बहस के बीच, एक नई रिपोर्ट बताती है कि कैसे प्रौद्योगिकी को खाने के विकारों और हिंसक विचारधाराओं की महिमा करने के लिए दुर्व्यवहार किया जा रहा है, आत्म-नुकसान को प्रोत्साहित करते हैं और नाबालिगों से जुड़े यौन सामग्री को फैलाने के लिए।

रिसर्च फर्म ग्राफिका की रिपोर्ट के अनुसार, डेवलपर्स डार्क थीम और व्यक्तित्व के आधार पर चैटबॉट्स बनाने के लिए चैटबॉट, मिथुन और क्लाउड जैसे लोकप्रिय एआई ऐप्स में हेरफेर कर रहे हैं, जो कि हाशिए पर रहने वाले समुदायों, यौन संबंधों को कम करने और जर्मन तानाशाह एडोल्फ हिटलर और अमेरिकी बच्चे सेक्स एब्जरी एपस्टेन जैसे ऐतिहासिक चरमपंथियों को पुनर्जीवित करने में सक्षम बनाते हैं।

खतरनाक खेल

एक बार हानिरहित भूमिका निभाने और कहानी कहने के लिए एक उपकरण, एआई-संचालित चरित्र चैटबॉट्स का दुरुपयोग चरित्र। ये प्लेटफ़ॉर्म उपयोगकर्ताओं को अनुकूलित संवाद, व्यवहार और प्रतिक्रियाओं के साथ चैटबॉट व्यक्तित्व बनाने की अनुमति देते हैं, लेकिन शोषण और दुरुपयोग के खिलाफ सुरक्षा उपायों की कमी है।

रिपोर्ट में 10,000 से अधिक चैटबॉट्स की पहचान की गई है, जो स्पष्ट भूमिका निभाने में संलग्न हैं। कुछ बॉट यहां तक ​​कि बड़े पैमाने पर निशानेबाजों को प्रतिरूपित करते हैं, जुनूनी खाने के विकारों को प्रोत्साहित करते हैं (लोगों को कम या अधिक खाने के लिए छानना) और दाग छिपाने के लिए चालें प्रदान करके आत्म-हानि को बढ़ावा देना।

विभिन्न बाल-केंद्रित चैटबॉट्स और परिदृश्य अन्य प्रकार के यौन भूमिका निभाने के लिए डिज़ाइन किए गए हैं, जिसमें बाल एस्कॉर्ट्स, हाई-स्कूल के छात्र, सामूहिक बलात्कार, अनाथालय, सहायक, पुलिस, चिकित्सक और काल्पनिक बाल-डेटिंग ऐप शामिल हैं।

विभिन्न व्यक्तित्व चैटबॉट्स और रोल-प्ले परिदृश्य विशेष रूप से “ग्रूमिंग” बच्चों पर केंद्रित हैं, जिससे उपयोगकर्ता या तो दूल्हे के रूप में रोल-प्ले करने की अनुमति देते हैं या दूल्हे के विषय। अक्सर, दूल्हे एक पड़ोसी की तरह एक माँ, पिता या अन्य विश्वसनीय व्यक्ति होता है। ग्रूमिंग से तात्पर्य बच्चों को हानिकारक उद्देश्यों के लिए एक वयस्क पर भरोसा करने में बच्चों में हेरफेर करने या धोखा देने की प्रक्रिया से है, जिसमें अक्सर शोषण या दुरुपयोग शामिल होता है।

उदाहरण के लिए, ईटिंग डिसऑर्डर कम्युनिटी में, उपयोगकर्ताओं ने “एना फ्रेंड्स” (एनोरेक्सिया मित्रों के लिए छोटा) और “मीन्स बॉट्स” बनाया है जो उपयोगकर्ताओं को चरम डाइटिंग में शर्मिंदा करते हैं। ये बॉट्स उपयोगकर्ताओं को “आप घृणित कर रहे हैं, खाना बंद करना बंद कर रहे हैं” या “यदि आप वजन बढ़ाते हैं तो आपको कभी प्यार नहीं होगा” जैसे संदेशों के साथ अपमानित करें।

एनोरेक्सिया एक खाने के विकार को संदर्भित करता है, जिससे लोग वजन के बारे में ध्यान देते हैं और वे क्या खाते हैं।

इसी तरह, सेल्फ-हार्म बॉट्स दर्द और आत्म-नुकसान की महिमा करने के लिए डिज़ाइन की गई प्रतिक्रियाओं का उत्पादन करते हैं, जिससे वे कमजोर उपयोगकर्ताओं के लिए विशेष रूप से खतरनाक हो जाते हैं।

डार्क बॉट कैसे बनाए जाते हैं

इन चैटबॉट्स के निर्माण के लिए कोडिंग विशेषज्ञता की आवश्यकता नहीं है। कई AI प्लेटफ़ॉर्म उपयोगकर्ताओं को कस्टम चैटबॉट वर्णों को डिजाइन और साझा करने की अनुमति देते हैं।

Reddit, 4chan और डिस्कोर्ड पर ऑनलाइन समुदायों ने मॉडरेशन और प्लेटफ़ॉर्म सुरक्षा फिल्टर को बायपास करने के लिए युक्तियों, जेलब्रेक और पूर्व-सेट चैटबॉट व्यवहारों का सक्रिय रूप से आदान-प्रदान किया।

डेवलपर्स हानिकारक प्रतिक्रियाओं को उत्पन्न करने में एआई मॉडल को ट्रिक करने के लिए छिपे हुए संकेत और कोडित निर्देश डालते हैं। वे एनीमे और मंगा समुदायों से उधार ली गई शर्तों का उपयोग करते हैं, जैसे कि “लोली” (युवा महिला पात्र) और “शोटा” (युवा पुरुष पात्रों) एआई प्लेटफार्मों को स्पष्ट सामग्री के खिलाफ इन-बिल्ट डिटेक्शन से बाहर निकालने के लिए।

जबकि एआई कंपनियों ने इस तरह के दुरुपयोग को रोकने के लिए सुरक्षा उपायों का निर्माण किया है, खामियों ने उपयोगकर्ताओं को मॉडल में हेरफेर करने की अनुमति दी है। मेटा के लामा और मिस्ट्रल एआई के मिक्सट्रल जैसे ओपन-सोर्स एआई मॉडल, व्यक्तियों द्वारा ठीक-ठाक हो सकते हैं, उन्हें रिपोर्ट के अनुसार, बिना किसी ओवरसाइट के चैटबॉट व्यवहार पर पूर्ण नियंत्रण दे सकते हैं।

यहां तक ​​कि चटप्ट (Openai), क्लाउड (एन्थ्रोप्रोपिक), और मिथुन (Google) जैसे मालिकाना AI मॉडल भी इन बॉट्स में से कुछ को पावर करते हुए पाया गया है, उनके कथित सुरक्षा उपायों के बावजूद।

इन हानिकारक चैटबॉट्स में से कई प्रभावशाली किशोरों को लक्षित करते हैं, जो ऐसे एआई व्यक्तियों के साथ बातचीत करने के जोखिमों का एहसास नहीं कर सकते हैं, जो उनके व्यवहार को आकार दे सकते हैं और खाने के विकारों, हिंसक विचारधाराओं और यौन शोषण के सामान्यीकरण को जन्म दे सकते हैं।