Elon Musk का Grok AI है कि सुधरने का नाम ही नहीं ले रहा, विवादों में घिरे रहने के बावजूद कंपनी का ये एआई टूल धड़ल्ले से अश्लील तस्वीरें बना रहा है. अब हाल ही में एक रिसर्च से इस बात का पता चला है कि ग्रोक एआई ने दो हफ्ते से भी कम समय में लगभग 30 लाख अश्लील तस्वीरें बनाई हैं जिनमें से 23,000 में बच्चे दिख रहे हैं.
यह अनुमान सेंटर फॉर काउंटरिंग डिजिटल हेट (CCDH) ने लगाया है. एलन मस्क के इस AI इमेज जनरेशन टूल पर लोगों का गुस्सा भी फूट रहा है क्योंकि इस टूल पर कुछ लोग अनजान लोगों की और सेलिब्रिटी की फोटो अपलोड कर उन्हें अश्लील तस्वीर में कंवर्ट करने के लिए प्रॉम्ट दे रहे हैं और ये टूल अश्लील फोटो बनाकर दे भी रहा है.
कब से कब तक के डेटा का हुआ असेसमेंट?
यही वजह है कि मस्क का ग्रोक सरकार और लोगों के निशाने पर आ गया है. डिजिटल इंटेलिजेंस कंपनी पेरिटोन इंटेलिजेंस द्वारा किए गए एनालिसिस के अनुसार, यह ट्रेंड नए साल में वायरल हुआ और 2 जनवरी को 199,612 अलग-अलग रिक्वेस्ट के साथ यह अपने चरम पर पहुंच गया. Center for Countering Digital Hate ने 29 दिसंबर 2025 से 8 जनवरी 2026 तक इसके आउटपुट का पूरा असेसमेंट किया है.
ग्रोक द्वारा अश्लील तस्वीरें बनाने के बाद कंपनी ने 9 जनवरी को इमेज जेनरेशन को पेड यूज़र्स के लिए सीमित कर दिया था. UK के प्रधानमंत्री Keir Starmer द्वारा इस स्थिति को “घिनौना” और “शर्मनाक” बताए जाने के बाद और भी पाबंदियां लगाई गईं है.
इंडोनेशिया और मलेशिया समेत दूसरे देशों ने भी AI टूल पर रोक लगाने की घोषणा की है. CCDH ने अनुमान लगाया कि 11 दिनों की अवधि में, Grok हर 41 सेकंड में बच्चों की अश्लील तस्वीरें बना रहा था. X ने पिछले हफ्ते के बयान में कहा था: हम X को सभी के लिए एक सुरक्षित प्लेटफ़ॉर्म बनाने के लिए प्रतिबद्ध हैं और अश्लील कंटेंट के प्रति हमारी ज़ीरो टॉलरेंस पॉलिसी जारी रहेगी.
