डीपफेक और एआई कंटेंट पर भारत का शिकंजा, सरकार ने बढ़ाई सोशल मीडिया प्लेटफॉर्म की जवाबदेही; फर्जी वीडियो-ऑडियो पर होगी सख्त निगरानी…

नई दिल्ली। आर्टिफिशियल इंटेलिजेंस यानी एआई के जरिए तैयार किए जा रहे डीपफेक वीडियो, फर्जी ऑडियो और ऐसी तस्वीरें जो वास्तविक दिखाई देती हैं, उनके बढ़ते इस्तेमाल के बीच भारत सरकार ने डिजिटल प्लेटफॉर्म के लिए नियमों को सख्त किया है0 nit। फरवरी 2026 में सूचना प्रौद्योगिकी नियमों में संशोधन के बाद एआई से तैयार किए गए सिंथेटिक कंटेंट को लेकर सोशल मीडिया कंपनियों की जिम्मेदारियां बढ़ाई गई हैं। अब अगस्त में संसदीय समिति ने इन प्रावधानों को और मजबूत करने के प्रस्तावों का समर्थन किया है।

एआई से बनाए कंटेंट पर लेबल जरूरी

सरकार के नए ढांचे में ‘सिंथेटिकली जेनरेटेड इंफॉर्मेशन’ यानी कंप्यूटर या एआई की मदद से तैयार या बदला गया ऐसा ऑडियो, वीडियो या दृश्य कंटेंट शामिल है, जिसे वास्तविक व्यक्ति या घटना जैसा दिखाया जा सकता है।  कंटेंट की पहचान के लिए स्पष्ट लेबल और तकनीकी मेटाडाटा का इस्तेमाल करने की व्यवस्था की गई है।

इसका मतलब है कि सोशल मीडिया पर ऐसा एआई-निर्मित वीडियो या ऑडियो अपलोड किया जाता है, जो किसी वास्तविक व्यक्ति के बयान या किसी वास्तविक घटना जैसा दिखाई देता है, तो उसकी कृत्रिम प्रकृति को स्पष्ट करना जरूरी हो सकता है।

प्लेटफॉर्म की जिम्मेदारी बढ़ी

नए नियमों के तहत बड़े सोशल मीडिया प्लेटफॉर्म को एआई से तैयार या बदले गए कंटेंट की पहचान और लेबलिंग के लिए उचित तकनीकी उपाय करने होंगे। प्लेटफॉर्म को यूजर से यह घोषणा लेने और तकनीकी माध्यमों से उसकी पुष्टि करने की जिम्मेदारी भी दी गई है कि अपलोड किया गया कंटेंट सिंथेटिक है या नहीं।

सरकार का उद्देश्य केवल एआई तकनीक पर रोक लगाना नहीं है, बल्कि लोगों को यह समझने में मदद करना है कि उनके सामने दिखाई दे रहा कंटेंट वास्तविक है या कृत्रिम तरीके से तैयार किया गया है।

शिकायत मिलने पर तेजी से हटाना होगा गैरकानूनी कंटेंट

संशोधित आईटी नियमों में गैरकानूनी कंटेंट को लेकर प्लेटफॉर्म की कार्रवाई की समयसीमा भी सख्त की गई है। रिपोर्टों के मुताबिक, कुछ श्रेणियों के गैरकानूनी कंटेंट की शिकायत मिलने पर प्लेटफॉर्म को तीन घंटे के भीतर कार्रवाई करनी होती है

इससे खास तौर पर उन मामलों में तेजी से कार्रवाई की उम्मीद है, जहां डीपफेक का इस्तेमाल किसी व्यक्ति की छवि खराब करने, धोखाधड़ी, गलत सूचना फैलाने या किसी की पहचान की नकल करने के लिए किया जाता है।

संसदीय समिति ने और सख्त कानून की सिफारिश की

अगस्त 2026 में संचार एवं सूचना प्रौद्योगिकी से जुड़ी संसदीय समिति ने डीपफेक और एआई आधारित गलत सूचना से निपटने के लिए प्रस्तावित कानूनी बदलावों का समर्थन किया है। समिति ने सरकार से इन प्रस्तावों को जल्द कानून का हिस्सा बनाने की दिशा में आगे बढ़ने को कहा है।

प्रस्तावों में एआई से तैयार कंटेंट की स्पष्ट कानूनी परिभाषा, अनिवार्य लेबलिंग, मेटाडाटा के जरिए पहचान और सोशल मीडिया प्लेटफॉर्म की तकनीकी जिम्मेदारी बढ़ाने जैसे कदम शामिल हैं। बड़े प्लेटफॉर्म को यूजर्स द्वारा अपलोड किए गए एआई कंटेंट की पहचान कर उस पर उचित चेतावनी लगाने के लिए तकनीकी उपाय करने पड़ सकते हैं।

चुनाव और फर्जी खबरों पर भी चिंता

डीपफेक को लेकर सबसे बड़ी चिंता राजनीतिक और सामाजिक स्तर पर गलत सूचना फैलाने को लेकर है। एआई की मदद से किसी नेता का नकली भाषण, फर्जी वीडियो या बदली हुई आवाज तैयार करके उसे वास्तविक बताकर वायरल किया जा सकता है। सरकार और संसदीय समिति ने माना है कि ऐसी तकनीक का इस्तेमाल गलत सूचना फैलाने और लोगों को गुमराह करने के लिए किया जा सकता है।

हालांकि, सरकार का नियमन केवल डीपफेक रोकने तक सीमित नहीं है। आधिकारिक स्पष्टीकरण के मुताबिक, रचनात्मक, शैक्षणिक या सामान्य संपादन जैसे वैध इस्तेमाल को अलग तरीके से देखा जाता है, बशर्ते उससे किसी वास्तविक घटना या दस्तावेज को झूठा दिखाने जैसी स्थिति पैदा न हो और आवश्यक लेबलिंग की जाए।

आम यूजर्स और कंटेंट क्रिएटर्स के लिए क्या बदलेगा?

अब एआई से वीडियो, आवाज या तस्वीर तैयार करने वाले क्रिएटर्स को यह ध्यान रखना होगा कि कंटेंट को वास्तविक बताकर पेश न किया जाए। खासकर किसी व्यक्ति की आवाज या चेहरा बदलकर ऐसा वीडियो बनाना, जिससे लगे कि उस व्यक्ति ने वास्तव में कोई बयान दिया है, गंभीर विवाद और कानूनी कार्रवाई का कारण बन सकता है।

सरकार की कोशिश है कि एआई तकनीक के इस्तेमाल और डिजिटल स्वतंत्रता के बीच संतुलन बनाए रखते हुए फर्जी और भ्रामक कंटेंट की पहचान आसान बनाई जाए। आने वाले समय में एआई से बने कंटेंट की पहचान, लेबलिंग और जवाबदेही को लेकर नियम और स्पष्ट तथा सख्त होने की संभावना है।