Grok AI के अश्लील कंटेंट मामले में झुका X, गलती मानी; 3,500 पोस्ट ब्लॉक, 600 से ज्यादा अकाउंट हटाए

सूचना प्रौद्योगिकी मंत्रालय की कड़ी चेतावनी के बाद एलन मस्क के स्वामित्व वाले सोशल मीडिया मंच ‘एक्स’ ने ‘ग्रोक एआई’ (Grok AI) से जुड़ी अश्लील सामग्री के मामले में अपनी गलती स्वीकार कर ली है। सरकारी सूत्रों के अनुसार, मंच ने भारतीय कानूनों का पालन करने का आश्वासन देते हुए बड़ी कार्रवाई की है।

सूत्रों ने बताया कि एक्स ने अब तक करीब 3,500 आपत्तिजनक सामग्री ब्लॉक की है, जबकि 600 से अधिक खातों को हटाया गया है। साथ ही कंपनी ने यह भी स्पष्ट किया है कि भविष्य में अपने मंच पर अश्लील छवियों की अनुमति नहीं दी जाएगी।

यह भी पढ़ें: Husband for an Hour: इस यूरोपीय देश में पुरुषों की भारी कमी, महिलाएं बुक कर रहीं ‘हसबैंड फॉर एन आवर’

सरकार की चेतावनी के बाद बदला रुख

सरकारी सूत्रों के मुताबिक, मंत्रालय ने पहले एक्स को नोटिस जारी कर ग्रोक एआई से जुड़ी अश्लील सामग्री पर की गई कार्रवाई और भविष्य में ऐसी घटनाओं की पुनरावृत्ति रोकने के लिए उठाए जाने वाले कदमों की विस्तृत जानकारी मांगी थी। हालांकि, पहले दिए गए जवाब को सरकार ने अपर्याप्त माना था।

पहले जवाब में अहम जानकारियों की थी कमी

पहले नोटिस के जवाब में एक्स ने भ्रामक पोस्ट और गैर-सहमति से प्राप्त यौन उत्तेजक छवियों से जुड़े मामलों में अपनाई जाने वाली अपनी सख्त सामग्री हटाने की नीतियों का जिक्र किया था। हालांकि, जवाब विस्तृत होने के बावजूद उसमें ग्रोक एआई से उत्पन्न अश्लील सामग्री पर की गई ठोस कार्रवाई और भविष्य में इसे रोकने के उपायों की जानकारी शामिल नहीं थी।

2 जनवरी को जारी हुई थी चेतावनी

सूचना प्रौद्योगिकी मंत्रालय ने 2 जनवरी को एक्स को कड़ी चेतावनी जारी करते हुए कहा था कि ग्रोक और अन्य एआई-आधारित टूल्स के दुरुपयोग के जरिए अश्लील और यौन सामग्री का निर्माण गंभीर चिंता का विषय है और इस पर तत्काल प्रभावी कदम उठाए जाने जरूरी हैं।

अवैध कंटेंट पर ‘एक्स’ का दावा

एक्स के ‘सेफ्टी’ हैंडल ने पिछले रविवार को कहा था कि मंच पर अवैध सामग्री, जिसमें बाल यौन शोषण सामग्री (CSAM) भी शामिल है, के खिलाफ सख्त कार्रवाई की जाती है। इसके तहत आपत्तिजनक सामग्री को हटाना, संबंधित खातों को स्थायी रूप से निलंबित करना, जरूरत पड़ने पर स्थानीय सरकारों और कानून प्रवर्तन एजेंसियों के साथ सहयोग जैसे कदम शामिल हैं।

मस्क के रुख को दोहराया

एक्स ने एलन मस्क के रुख को दोहराते हुए कहा था, “ग्रोक का उपयोग कर अवैध सामग्री बनवाने वाले किसी भी व्यक्ति को वही परिणाम भुगतने होंगे, जो अवैध सामग्री अपलोड करने पर होते हैं।”

सरकार की नजर आगे की कार्रवाई पर

फिलहाल एक्स द्वारा की गई कार्रवाई और दिए गए आश्वासन के बाद सरकार की नजर इस बात पर बनी हुई है कि मंच भविष्य में एआई-जनित अश्लील सामग्री को रोकने के लिए किस तरह के ठोस और स्थायी उपाय करता है।