Explainer: ग्रोक के नए नियम, पेड और फ्री यूजर्स के लिए क्या बदला?

New rules for Grok: सोशल मीडिया प्लेटफॉर्म ‘एक्स’ ने अपने एआई चैटबॉट ‘ग्रोक’ के जरिए अवैध और आपत्तिजनक तस्वीरें बनाए जाने पर रोक लगाने के लिए नए तकनीकी उपाय लागू कर दिए हैं। यह कदम ग्रोक द्वारा बनाई गई अश्लील ‘डीपफेक’ तस्वीरों को लेकर देश-विदेश में हुए तीखे विरोध और नियामकीय दबाव के बाद उठाया गया है।

‘एक्स’ ने अपने आधिकारिक सेफ्टी अकाउंट के जरिए बताया कि ये प्रतिबंध सशुल्क ग्राहकों समेत सभी उपयोगकर्ताओं पर लागू होंगे। कंपनी ने स्पष्ट किया है कि अब ग्रोक के माध्यम से लोगों की तस्वीरों को बिकनी, अंत:वस्त्र या इसी तरह के आपत्तिजनक कपड़ों में बनाने या संपादित करने की सुविधा उन क्षेत्रों में भौगोलिक रूप से अवरुद्ध कर दी गई है, जहां यह कानूनन अवैध है।

इमेज जनरेशन अब सिर्फ पेड यूजर्स के लिए

इसके साथ ही ‘एक्स’ ने यह भी घोषणा की है कि मंच पर ग्रोक अकाउंट के जरिए तस्वीर बनाने और एडिट करने की सुविधा अब केवल सशुल्क (पेड) सब्सक्राइबर्स तक सीमित रहेगी। कंपनी का कहना है कि इससे दुरुपयोग पर लगाम लगेगी और नियमों का उल्लंघन करने वालों की जवाबदेही तय करने में मदद मिलेगी।

सुरक्षा नियमों में कोई ढील नहीं

‘एक्स’ ने साफ किया कि इन बदलावों से उसके मौजूदा सुरक्षा नियमों में कोई नरमी नहीं आएगी। मंच पर पोस्ट किए गए सभी एआई प्रॉम्प्ट और जनरेटेड कंटेंट को कंपनी की नीतियों का सख्ती से पालन करना होगा।

कंपनी ने कहा, “कंटेंट चाहे किसी भी माध्यम से बनाया गया हो और उपयोगकर्ता पेड हो या फ्री—हमारी सुरक्षा टीम चौबीसों घंटे काम कर रही है। नियमों का उल्लंघन करने वाली या अवैध सामग्री को तुरंत हटाया जाएगा, जरूरत पड़ने पर खातों को स्थायी रूप से निलंबित किया जाएगा और कानून प्रवर्तन एजेंसियों के साथ सहयोग किया जाएगा।”

बाल यौन शोषण और बिना सहमति की नग्नता पर ‘जीरो टॉलरेंस’

‘एक्स’ ने दोहराया कि वह एक सुरक्षित डिजिटल मंच प्रदान करने के लिए प्रतिबद्ध है। बाल यौन शोषण, बिना सहमति के नग्नता और अवांछित यौन सामग्री को किसी भी सूरत में बर्दाश्त नहीं किया जाएगा। कंपनी ने यह भी कहा कि जरूरत पड़ने पर ऐसे खातों की जानकारी कानून प्रवर्तन एजेंसियों को साझा की जाती है।

भारत समेत कई देशों का दबाव

गौरतलब है कि भारत सहित दुनिया भर की सरकारें ग्रोक जैसे जनरेटिव एआई टूल्स पर कड़ी नजर बनाए हुए हैं। भारत के सूचना प्रौद्योगिकी मंत्रालय ने 2 जनवरी को ‘एक्स’ को फटकार लगाते हुए ग्रोक द्वारा उत्पन्न सभी अश्लील, आपत्तिजनक और गैरकानूनी सामग्री को तत्काल हटाने का निर्देश दिया था। चेतावनी दी गई थी कि ऐसा न करने पर कानूनी कार्रवाई की जाएगी। भारत के अलावा ब्रिटेन और यूरोपीय संघ ने भी ग्रोक द्वारा बनाई गई डीपफेक तस्वीरों को लेकर सवाल उठाए हैं।

क्या है डीपफेक?

डीपफेक तस्वीरें कृत्रिम मेधा (एआई) की मदद से तैयार की जाती हैं, जो देखने में बिल्कुल असली लगती हैं, लेकिन वास्तव में पूरी तरह नकली होती हैं और इनका दुरुपयोग गंभीर सामाजिक और कानूनी समस्याएं पैदा कर सकता है।