AI की मनमानी! ग्रोक ने खुद बना दी सिंगर की न्यूड वीडियो, मस्क पर उठे सवाल

वॉशिंगटन

कई दफा अलग-अलग वजहों से विवादों में रहने वाला एलन मस्क का चैटबॉट Grok एक बार फिर से बहस का कारण बन गया है। दरअसल इस बार Grok मशहूर सिंगर टेलर स्विफ्ट की अश्लील डीपफेक वीडियो बनाने की वजह से विवादों में आया है। बता दें कि पिछले दिनों OpenAI के सीईओ सैम ऑल्टमैन के द्वारा ChatGPT लॉन्च किए जाने के कुछ घंटों बाद Grok Imagine को सभी के लिए मुफ्त किए जाने का ऐलान हुआ था। Grok Imagine एक AI वीडियो एडिटिंग टूल है। इस विवाद का सबसे बड़ा कारण यह भी है कि Grok बिना यूजर के मांगे भी टेलर स्विफ्ट के अश्लील डीपफेक वीडियो बना रहा है। चलिए डिटेल में जानते हैं कि आखिर मामला क्या है?

क्या है मामला?
Verge की एक रिपोर्ट के अनुसार जेस वेदरबेड नाम के टेक पत्रकार ने Grok के Spicy Mode की टेस्टिंग की है। इसमें “Taylor Swift celebrating Coachella with the boys” जैसा नॉर्मल प्रॉम्प्ट देने के बावजूद उन्हें टेलर स्विफ्ट के टॉपलेस क्लिप्स दिखाए गए। इसके बाद एक बार फिर बिना सहमति के AI से बने अश्लील कंटेंट पर बहस शुरू हो गई है। इसे बहस के केंद्र में महिलाएं हैं और खासकर सेलिब्रिटीज।

अश्लील के साथ जेंडर बायस भी है Grok
Grok Imagine xAI Suite का ही हिस्सा है। इसकी मदद से इमेज बनाकर उसे वीडियो में बदला जा सकता है। इसमे 4 मोड देखने को मिलते हैं “Custom,” “Normal,” “Fun,” और “Spicy”। भले एलन मस्क की कंपनी का कहना हो कि इस पर मौजूद कंटेंट बच्चों के लिए सुरक्षित है लेकिन बावजूद इसके इसने टेलर स्विफ्ट, सिडनी स्वीनी और स्कारलेट जोहानसन जैसी महिलाओं की यौन सामग्री बना दी। गौरतलब है कि पुरुषों से संबंधित ऐसा कंटेंट बनाने से Grok ने इंकार कर दिया। ऐसे में इस पर सिर्फ अश्लील सामग्री के लिए ही नहीं बल्कि लिंग को लेकर भेदभाव करने के सवाल भी उठ रहे हैं।

ट्रंप का कानून लगाएगा रोक?
अश्लील डीपफेक पर रोक लगाने के मकसद से हाल ही में डोनाल्ड ट्रंप ने कानून के तौर पर Adult Contempt and Exploitation Act पास किया है। हालांकि जानकारों का मानना है कि इस कानून का एलन मस्क के AI को कुछ नहीं बिगड़ेगा। ऐसा इसलिए क्योंकि यहां कंटेंट यूजर के सीधे अश्लील निर्देश से नहीं, बल्कि प्रीसेट मोड से बना था। जानकारों का कहना है कि कंपनी को अपने चैटबॉट के इस मोड में उम्र की पुष्टि करने से संबंधित फिल्टर लागू होने चाहिए। इस तरह के टूल का हर किसी के लिए उपलब्ध होना बिलकुल ठीक नहीं है।

xAI का क्या कहना है?
इस बारे में xAI का कहना है कि वह सुरक्षा के उपाय लागू कर रहे हैं। उनका कहना है कि AI का सही इस्तेमाल हो यही उनकी प्राथमिकता है। हालांकि एक्सपर्ट्स का कहना है कि अगर इस बयान में रत्ती भर भी सच्चाई है, तो Spicy Mode को पूरी तरह से हटा दिया जाना चाहिए। ऐसा तब और भी जरूरी हो जाता है जब पिछले ही साल टेलर स्विफ्ट के डीपफेक स्कैंडल ने बहुत हंगामा मचाया था।