AI: “Graphika नामक सोशल नेटवर्क एनालिसिस कंपनी ने बताया है कि आर्टिफिशियल इंटेलिजेंस का दुरुपयोग हो रहा है, खासकर महिलाओं को लकड़ी के बनावट में दिखाने वाले ऐप्स और वेबसाइट्स के माध्यम से. रिपोर्ट के मुताबिक, ऐसे एप्लिकेशन्स और साइट्स महिलाओं की नग्न तस्वीरें बनाने में आर्टिफिशियल इंटेलिजेंस का उपयोग कर रहे हैं, जिससे इस प्रकार की कार्रवाई का प्रचार-प्रसार तेजी से बढ़ रहा है.”
Graphika के अनुसार, सितंबर महीने में 2.4 करोड़ यूजर्स ने इस प्रकार की वेबसाइट्स का दौरा किया है। इसमें से अधिकांश लोग ‘न्यूडिफाई’ सेवाओं के प्रचार-प्रसार के लिए पॉपुलर सोशल नेटवर्क्स का इस्तेमाल कर रहे हैं। इस साल की शुरुआत से अब तक, सोशल मीडिया प्लेटफॉर्म्स पर इस प्रकार के लिंक्स के विज्ञापनों में 2400 प्रतिशत की बढ़ोतरी हुई है।
AI: सोशल मीडिया पर किया जा रहा प्रमोट
ये सेवाएं अब Reddit और X जैसे सोशल मीडिया प्लेटफॉर्मों पर भी प्रमोट की जा रही हैं। इन सेवाओं का उपयोग तस्वीरों को पुनर्निर्मित करने के लिए किया जा सकता है, जिसमें किसी व्यक्ति के कपड़ों को हटाया जा सकता है। इनमें से कई सेवाएं केवल महिलाओं की तस्वीरों पर काम कर सकती हैं।
इन एप्लिकेशन्स के इस्तेमाल से किसी को बुरी तरह के वीडियो बनाकर उसे ऑनलाइन प्लेटफ़ॉर्मों पर शेयर किया जा सकता है। इन एप्लिकेशन्स में AI का उपयोग करके किसी के खिलाफ गलत तरीके से वीडियो बनाने की क्षमता होती है।
इसे सरलता से समझाने के लिए, यह कह सकते हैं कि ये छवियों और वीडियो को आपसी रूप से बदलकर बनाए जाने वाले असली लोगों की नकल करने का काम है, जिसे ‘डीपफेक पॉर्नोग्राफी’ कहा जाता है। इस प्रकार की कल्पनाएं सोशल मीडिया से ली गई तस्वीरों का उपयोग करके बनाई जा सकती हैं और इन्हें गलत उद्देश्यों के लिए वितरित भी किया जा सकता है।
AI: पॉर्नोग्राफी में होता है इस्तेमाल
“यहाँ एक तस्वीर है जो ऐक्स पर पोस्ट की गई है, जिसमें बताया गया है कि ऐसी फोटोज को एक अनड्रेसिंग एप्लिकेशन का इस्तेमाल करके बनाया जा सकता है। यह एक एप्लिकेशन ने Google के YouTube पर स्पॉन्सर कंटेंट के लिए भुगतान किया है और ‘nudify’ शब्द से सर्च करने पर यह पहले दिखाई देता है।”
इस मामले में, गूगल के एक प्रवक्ता ने कहा है कि कंपनी ऐसे विज्ञापनों को मंजूरी नहीं देती है, जिनमें स्पष्ट सेक्सुअल सामग्री होती है। उन्होंने बताया कि जिन विज्ञापनों पर सवाल उठाया गया है, हमने उन्हें जांचा है और हमारी नीति का उल्लंघन करने वाले ऐड्स को हटा रहे हैं। हालांकि, इस मुद्दे में X और Reddit ने कोई जवाब नहीं दिया है।
बिना सहमती के पॉर्नोग्राफी लंबे समय से इंटरनेट पर मौजूद है, खासकर पब्लिक फिगर वाले लोगों के मामले में. प्राइवेसी एक्सपर्ट्स AI टेक्नोलॉजी के उपयोग पर सवाल उठा रहे हैं, क्योंकि इसका इस्तेमाल करके डीपफेक वीडियो आसानी से बना सकते हैं.