नकली ऑडियो-वीडियो के लिए सोशल मीडिया मंच होंगे जिम्मेदार

आर्टिफिशियल इंटेलीजेंस (एआई) से बनाए गए डीपफेक और कृत्रिम सामग्री से होने वाले नुकसान से उपयोगकर्ताओं को बचाने के लिए इलेक्ट्रॉनिक्स एवं सूचना प्रौद्योगिकी मंत्रालय ने आईटी नियम, 2021 में संशोधन का मसौदा पेश किया है। प्रस्तावित बदलावों का उद्देश्य ‘एआई के जरिये कृत्रिम रूप से तैयार सामग्री’ (सिंथेटिक कंटेंट) की स्पष्ट पहचान करना और बड़े सोशल मीडिया मंचों की जवाबदेही को बढ़ाना है। मंत्रालय ने कहा कि जनरेटिव एआई टूल का इस्तेमाल बढ़ने से अब गलत जानकारी पेश करना और नकली वीडियो एवं ऑडियो क्लिप तैयार करना आसान हो गया है। ऐसी स्थिति में इन पर नियंत्रण पाने के लिए सूचना प्रौद्योगिकी नियम, 2021 में कुछ बदलावों का मसौदा पेश किया जा रहा है।

मंत्रालय ने कहा, ‘हाल ही में डीपफेक वीडियो के बहुप्रचारित होने की घटनाओं ने दिखाया है कि जनरेटिव एआई की मदद से ऐसे व्यक्ति के कथन या कृत्य दिखाए जा सकते हैं जो वास्तव में उनके नहीं थे। ऐसा होने से गलत सूचना फैल सकती है, प्रतिष्ठा को नुकसान पहुंच सकता है, चुनावों को प्रभावित किया जा सकता है या धोखाधड़ी भी हो सकती है।’

प्रस्तावित नियमों के तहत 50 लाख या उससे अधिक उपयोगकर्ताओं वाले बड़े सोशल मीडिया मंचों को यह सुनिश्चित करना होगा कि अपलोड की गई सामग्री कृत्रिम तो नहीं है। इसकी पुष्टि के लिए तकनीकी उपाय अपनाने होंगे और इस सामग्री को प्रमुखता से चिह्वित करना अनिवार्य होगा। संशोधित नियमों में ‘कृत्रिम रूप से निर्मित जानकारी’ को ऐसी सामग्री के रूप में परिभाषित किया गया है, जिसे कंप्यूटर के जरिये कृत्रिम या गणना-पद्धति (एल्गोरिद्म) के इस्तेमाल से निर्मित, संशोधित या वास्तविक लगने वाला रूप दिया गया हो। चिह्नांकन मानकों में वीडियो एवं ऑडियो संकेत शामिल होंगे, जो वीडियो सामग्री के कम-से-कम 10 प्रतिशत या ऑडियो कंटेंट की शुरुआती 10 प्रतिशत अवधि तक दिखाई या सुनाई देंगे। इसी तरह कृत्रिम सामग्री बनाने या संशोधित करने वाले मंच को स्थायी विशिष्ट मेटाडाटा या पहचान-चिह्न डालना होगा, जिसे हटाना या बदलना मना होगा।

सूचना प्रौद्योगिकी मंत्रालय ने कहा कि इन संशोधनों का उद्देश्य उपयोगकर्ताओं में जागरूकता बढ़ाना, पहचान को सुनिश्चित करना और जिम्मेदारी तय करना है। इसके अलावा एआई प्रौद्योगिकी में नवाचार को भी प्रोत्साहित करना इसका मकसद है।

6 नवंबर तक मांगे गए सुझाव

इन नियमों के मसौदे पर सुझाव एवं टिप्पणियां छह नवंबर, 2025 तक भेजी जा सकती हैं। सरकार का यह मसौदा प्रस्ताव वैश्विक स्तर पर ऐसे कृत्रिम एवं छेड़छाड़ कर बनाए गए वीडियो, तस्वीरों एवं ऑडियो को लेकर बढ़ती चिंता के बीच जारी किया गया है। इसके पीछे सोच यह है कि नियामकीय निगरानी से उपयोगकर्ताओं को नुकसान कम करने में मदद मिलेगी।