डीपफेक से निपटने को फौरी समाधान से आगे बढ़ें

भारत को न केवल डीपफेक से, बल्कि एआई के सभी पहलुओं से निपटने के लिए एक व्यापक नियामक ढांचे की आवश्यकता है, जैसा कि यूरोपीय संघ के एआई अधिनियम में है। न कि विनियमन के लिए टुकड़ों-टुकड़ों वाली अथवा पैबंद लगाने वाले दृष्टिकोण की।

केंद्र सरकार ने आर्टिफिशियल इंटेलिजेंस (एआई) से उत्पन्न डिजिटल सामग्री के नियमन के लिए मसौदा नियम प्रकाशित किए हैं। वर्ष 2021 में जारी हुए सूचना प्रौद्योगिकी (मध्यवर्ती दिशानिर्देश एवं डिजिटल मीडिया आचार संहिता) नियमों को विस्तार करते हुए, इस मसौदे में ‘कृत्रिम रूप से उत्पन्न जानकारी’ को भी शामिल किया गया है। ऐसी जानकारी या सामग्री को ऐसी चीज़ के रूप में परिभाषित किया गया है, जिसे कंप्यूटर संसाधन का उपयोग करके कृत्रिम रूप से या एल्गोरिथम के माध्यम से निर्मित, उत्पन्न, संशोधित अथवा परिवर्तित कुछ इस तरह से किया गया हो कि वह यथोचित रूप से प्रामाणिक या सत्य प्रतीत लगे। ये नियम विशेष रूप से डीपफेक वीडियो, ऑडियो और सिंथेटिक मीडिया के खतरे से निपटने के लिए तैयार किए गए हैं, जिनकी हाल के महीनों में सोशल प्लेटफॉर्म पर बाढ़ आई हुई है। ये ‘विश्वसनीय’ लगने वाले झूठ फैलाने के लिए जनरेटिव एआई की क्षमता को प्रदर्शित करते हैं। ऐसी सामग्री में व्यक्तियों को ऐसे कार्य करते अथवा बयान देते दर्शाया जाता है, जो उन्होंने कभी किया ही नहीं।

एआई-जनित डीपफेक का इस्तेमाल अक्सर गलत सूचना फैलाने, किसी की प्रतिष्ठा को नुकसान पहुंचाने या वित्तीय धोखाधड़ी करने के लिए किया जाता है। राजनीतिक दल चुनावों के दौरान मतदाताओं को प्रभावित करने के लिए इनका इस्तेमाल कर सकते हैं। सरकारी एजेंसियों की अब तक की प्रतिक्रिया सोशल मीडिया प्लेटफॉर्म्स और ‘महत्वपूर्ण सोशल मीडिया मध्यस्थों’ (एसएसएमआई) को ‘आपत्तिजनक’ सामग्री के खिलाफ परामर्श नोट जारी करना ही रही है। एसएसएमआई के पास शिकायतों और नियामक आवश्यकताओं से निपटने के लिए एक अनुपालन प्रणाली होने की जरूरत थी।

नए नियमों का उद्देश्य कृत्रिम रूप से उत्पन्न सूचना से संबंधित लेबलिंग, मूल स्रोत का पता लगाने की क्षमता और जवाबदेही के लिए एक कानूनी आधार प्रदान करना है। ऐसा तमाम एआई-जनित सामग्री को मेटाडेटा एम्बेडिंग के माध्यम से लेबल करने के लिए बाध्यकारी बनाया जाएगा ताकि कृत्रिम रूप से उत्पन्न या संशोधित जानकारी की शिनाख्त प्रामाणिक सामग्री से अलग की जा सके। सोशल मीडिया मध्यस्थ कृत्रिम जानकारी की पुष्टि और उसे चिह्नित करने के लिए उत्तरदायी होंगे।

इस प्रकार प्रस्तावित उपायों में न केवल सोशल मीडिया प्लेटफ़ॉर्म और मध्यस्थ को शामिल किया है, बल्कि कृत्रिम रूप से उत्पन्न जानकारी के निर्माण या संशोधन हेतु तकनीक प्रदान करने वाली कृत्रिम बुद्धिमत्ता कंपनियां और उपकरण भी शामिल हैं। कृत्रिम बुद्धिमत्ता टूल्स कंपनियों को यह सुनिश्चित करना होगा कि ऐसी जानकारी में स्थायी, विशिष्ट मेटाडेटा, पहचानकर्ता के साथ, लेबल या एम्बेड किया हो। तंबाकू उत्पादों पर छपी वैधानिक स्वास्थ्य चेतावनी की तरह, कृत्रिम सामग्री पर लेबल को प्रमुखता से प्रदर्शित किया जाना चाहिए, जो विज़ुअल डिस्पले के कम से कम 10 प्रतिशत सतह क्षेत्र में दिखाई दे अथवा ऑडियो सामग्री के मामले में प्रारंभिक 10 फीसदी अवधि में सुनाई देता हो। सोशल मीडिया प्लेटफ़ॉर्म के लिए जरूरी है उपयोगकर्ताओं से यह घोषणा करने के लिए कहें कि जो जानकारी वे अपलोड कर रहे हैं कहीं वह कृत्रिम रूप से उत्पन्न तो नहीं, और प्लेटफ़ॉर्मों को ऐसी घोषणाओं को सत्यापित करने के लिए ‘उचित एवं आनुपातिक’ तकनीकी उपाय करने होंगे। यदि ऑनलाइन प्लेटफ़ॉर्म अच्छी भावना से कृत्रिम बुद्धिमत्ता-जनित या अन्य समस्याग्रस्त सामग्री को खुद से हटा देते हैं या उस तक पहुंच को अवरुद्ध करते हैं, तब वे सूचना प्रौद्योगिकी अधिनियम के तहत प्रदत्त कानूनी सुरक्षा नहीं खोएंगे।

इस तकनीक की प्रकृति और संरचना के कारण, किसी भी प्रकार के एआई को विनियमित करना दुनिया भर के नियामकों और सरकारों के लिए एक दुःस्वप्न साबित हो रहा है। एआई सामग्री शृंखला जटिल और बहुस्तरीय है। यह केवल चैटजीपीटी, जेमिनी या डैल-ई जैसे एआई टूल्स ही नहीं हैं, बल्कि कई मध्यस्थ और प्लेटफ़ॉर्म भी हैं, जो एआई-जनित सामग्री जैसे कि एआई आर्ट जनरेटर, वॉइस-क्लोनिंग टूल्स, डीपफेक ऐप्स, सोशल मीडिया या वीडियो प्लेटफ़ॉर्म में एम्बेडेड टूल है, जिन पर उपयोगकर्ता एआई-जनित सामग्री, चैटबॉट या सामग्री निर्माण टूल्स अपलोड करते हैं, जो आगे एआई टेक्स्ट या विज़ुअल उत्पन्न करते हैं। इनके निर्माण या साझाकरण को सक्षम, अनुमति या सुगम बनाते हैं। फेसबुक, इंस्टाग्राम, एक्स और लिंक्डइन जैसे प्रमुख सोशल मीडिया प्लेयर्स, जिनकी भारत में उपस्थिति है, इनको छोड़कर, एआई शृंखला के अधिकांश प्लेयर्स कहीं और स्थित हैं। उन्हें भारतीय नियमों के अधीन लाना कठिन हो सकता है। डीपफेक से संबंधित नियम जल्दबाजी में बनाए गए प्रतीत होते हैं। ये नागरिकों के ऑनलाइन अधिकारों की रक्षा के लिए एक सुविचारित नियामक कदम के बजाय, हाल ही में राजनीतिक नेताओं से जुड़े डीपफेक वीडियो की बाढ़ के प्रति एक अतिशयी प्रतिक्रिया अधिक प्रतीत होते हैं। नियमों के ध्यान का केंद्र मुख्यतः आपत्तिजनक माने जाने वाले डीपफेक को ‘हटाना’ और ऐसी सामग्री के लिए सोशल मीडिया प्लेटफॉर्म्स को पूर्ण रूप से ज़िम्मेदार ठहराना है। इसकी बजाय, नियमन को हर किसी की शारीरिक संरचना और आवाज़ के अधिकार की रक्षा के लिए डिज़ाइन किया जाना चाहिए। भारत में फ़िल्मी सितारे ख़ास तौर पर अपने चेहरे और आवाज़ के अनधिकृत एआई उपयोग को रोकने के लिए इस अधिकार की मांग कर रहे हैं।

इस दिशा में डेनमार्क ने सिर्फ़ मशहूर हस्तियों की ही नहीं, किसी भी व्यक्ति की अनूठी पहचान को, बल्कि सभी नागरिकों की, बौद्धिक संपदा की तरह मानने का प्रस्ताव रखा है। अमेरिका में एक प्रस्तावित क़ानून संघीय चुनावों में उम्मीदवारों के बारे में एआई द्वारा उत्पन्न भ्रामक ऑडियो या विज़ुअल सामग्री के जानबूझकर वितरण पर रोक लगाता है। फ़्रांस एक व्यापक ऑनलाइन सुरक्षा क़ानून पर काम कर रहा है। ब्रिटेन ने डीपफेक और अंतरंग छवि दुरुपयोग को शामिल करने के लिए अपने ऑनलाइन सुरक्षा क़ानून में संशोधन किया है। सबसे बृहद क़ानून यूरोपीय आर्टिफिशियल इंटेलिजेंस अधिनियम है।

भारत में मसौदा नियमन का बिना किसी सार्वजनिक बहस के प्रस्तावित किया गया है। विनियमन के इतने महत्वपूर्ण हिस्से को प्रभावी बनाने के लिए व्यापक, बहु-हितधारक चर्चा करवाना जरूरी है। विमर्श में 2021 से लागू डिजिटल मीडिया आचार संहिता की प्रभावशीलता को भी शामिल किया जाना चाहिए। सरकारी एजेंसियों द्वारा दुरुपयोग और सामग्री को चुनिंदा रूप से हटाए जाने का डर हमेशा बना रहेगा। वरिष्ठ सरकारी और राजनेता जानबूझकर या अनजाने में नकली और एआई-जनित सामग्री का उपयोग करते पाए गए हैं। सबसे बड़ी समस्या गुमनाम और बॉट-संचालित खातों पर तकनीकी कंपनियों और सोशल मीडिया प्लेटफॉर्म का संदिग्ध रुख है।

भारत को न केवल डीपफेक से, बल्कि एआई के सभी पहलुओं से निपटने के लिए एक व्यापक नियामक ढांचे की आवश्यकता है, जैसा कि यूरोपीय संघ के एआई अधिनियम में है। न कि विनियमन के लिए टुकड़ों-टुकड़ों वाली अथवा पैबंद लगाने वाले दृष्टिकोण की। इसका डिजिटल साक्षरता को बढ़ावा देने और ऑनलाइन सुरक्षा और उपभोक्ता अधिकारों के संरक्षण के बारे में शिक्षा के संग-संग चलना जरूरी है।

लेखक विज्ञान संबंधी मामलों के टिप्पणीकार हैं।