लोकसभा निवडणुकीदरम्यान deepfake डीप फेक व्हिडिओज, क्लिप्स, फोटो किंवा इतर प्रकारचा कंटेंट तयार करून तो समाजमाध्यमे / डिजिटल माध्यमांवरून प्रसारित करण्यात येत आहे. या गैरप्रकारांना आळा घालण्यासाठी संबंधितांवर कडक कारवाई शासनामार्फत करण्यात येणार आहे. यासंदर्भात पोलीस महासंचालकांना सूचना देण्यात आल्या आहेत.
नुकतेच deepfake डीपफेकबाबत एक धक्कादायक सर्वेक्षण समोर आले आहे. या सर्वेक्षणानुसार, भारतातील प्रत्येक 4 पैकी 1 व्यक्ती deepfake सामग्रीचा सामना करत आहे. यावरून तुम्ही कल्पना करू शकता की डीपफेक किती पाय पसरत आहे? अलीकडे अनेक सेलिब्रिटी आणि राजकीय नेते डीपफेक सामग्रीचे बळी ठरले आहेत. केंद्र सरकारने डीपफेक किंवा एआय जनरेटेड कंटेंटबाबत गेल्या वर्षीपासून कडक भूमिका घेतली आहे.
भारतात deepfake सामग्रीचा प्रचार करण्यासाठी मोठ्या दंडाची तरतूद आहे. इतकंच नाही तर अनेक प्रकरणांमध्ये तुम्हाला तुरुंगातही जावं लागू शकतं. सर्वेक्षणातील आश्चर्यकारक आकडेवारी भारतात, deepfake सामग्रीचा वापर सायबर फसवणूक आणि अफवा पसरवण्यासाठी केला जातो. वापरकर्ते AI व्युत्पन्न केलेली सामग्री सत्य म्हणून स्वीकारतात आणि नंतर त्याचे बळी होतात. McAfee ने नुकत्याच केलेल्या सर्वेक्षणानुसार, 2023 च्या तुलनेत 80 टक्क्यांहून अधिक लोक आता डीपफेकबद्दल चिंतित आहेत.
त्याच वेळी, सुमारे 64 टक्के लोकांचे म्हणणे आहे की AI मुळे होणाऱ्या सायबर फसवणुकीत खरी आणि बनावट ओळखणे खूप कठीण आहे. तथापि, या सर्वेक्षणात सहभागी झालेल्या 30 टक्के लोकांचे म्हणणे आहे की ते AI व्युत्पन्न सामग्री ओळखण्यास सक्षम आहेत. सायबर सिक्युरिटी फर्मच्या या सर्वेक्षणात जगभरातून 7,000 लोक सहभागी झाले होते.
डीपफेकबाबत काय कायदा आहे? डीपफेकबाबत भारतात कडक कायदे आहेत. IT Act 66E आणि IT Act 67 मध्ये, असा मजकूर ऑनलाइन शेअर केल्यास दंड तसेच तुरुंगवासाची तरतूद आहे. IT कायदा 66E नुसार, एखाद्या व्यक्तीचा फोटो किंवा व्हिडिओ त्याच्या परवानगीशिवाय सोशल आणि ऑनलाइन प्लॅटफॉर्मवर प्रकाशित केल्यास 3 वर्षांपर्यंत तुरुंगवास आणि 2 लाख रुपयांपर्यंत दंड होऊ शकतो.
आयटी कायदा 67 नुसार कोणत्याही व्यक्तीचे अश्लील फोटो बनवल्यास किंवा शेअर केल्यास त्याला 3 वर्षांचा तुरुंगवास आणि 5 लाख रुपयांपर्यंत दंड भरावा लागेल. त्याच वेळी, तुम्ही तीच चूक वारंवार केल्यास तुम्हाला 5 वर्षांपर्यंत तुरुंगवास आणि 10 लाख रुपयांपर्यंत दंड भरावा लागू शकतो. गेल्या वर्षी, 7 नोव्हेंबर, 2023 रोजी, केंद्र सरकारने डीपफेक आणि AI व्युत्पन्न सामग्रीबद्दल सोशल मीडिया इंटरमीडियरीज (SMI) ला एक सल्ला जारी केला होता.
ते deepfake सामग्री ओळखतात आणि त्यांच्यावर कारवाई करतात. जर कोणतीही डीपफेक सामग्री नोंदवली गेली असेल, तर ती तक्रार केल्याच्या 36 तासांच्या आत सोशल आणि ऑनलाइन प्लॅटफॉर्मवरून काढून टाकली जावी, अन्यथा प्लॅटफॉर्मवर भारतीय दंड संहितेअंतर्गत कारवाई केली जाऊ शकते.
सामान्य वापरकर्त्यासाठी डीपफेक आणि एआय व्युत्पन्न सामग्री ओळखणे खूप कठीण आहे. मात्र, युजरने सतर्क राहिल्यास deepfake कंटेंटवर मात करता येऊ शकते. सोशल मीडियावर शेअर केलेली कोणतीही सामग्री विचित्र वाटत असल्यास किंवा तुमच्या ओळखीच्या कोणीतरी फोन कॉलवर तुमच्याकडून विचित्र मागणी करत असल्यास, ती बनावट असू शकते. भावनेने अशा सामाजिक पोस्ट शेअर करू नका किंवा ओळखीच्या व्यक्तीचा आवाज ऐकून मदत करण्याचा प्रयत्न करू नका.
कोणताही AI जनरेट केलेला डीपफेक व्हिडिओ व्हिडिओमध्ये दाखवलेल्या व्यक्तीचा चेहरा, बोटे आणि आवाजावर लक्ष केंद्रित करून ओळखला जाऊ शकतो. याशिवाय, AI व्युत्पन्न deepfake ओळखण्यासाठी रिव्हर्स मशीन लर्निंग AI देखील तयार केले जात आहे, ज्यामुळे डीपफेकची तपासणी करणे सोपे होईल. याशिवाय डीपफेक कंटेंट शेअर करणाऱ्या गुन्हेगारांच्या लोकेशनचा मागोवा घेण्याची सुविधा असेल.
फोटोशॉप, मशीन लर्निंग (एमएल) किंवा आर्टिफिशियल इंटेलिजन्स (एआय) यांसारख्या विविध तंत्रांचा गैरवापर करून डीप फेक व्हिडिओज, क्लिप्स, फोटो किंवा इतर प्रकारचा कंटेंट तयार करण्यात येतो. निवडणुकीदरम्यान या तंत्राचा गैरवापर हा चिंतेचा विषय आहे. एखादा उमेदवार, राजकीय पक्ष किंवा निवडणुकीच्या मुद्द्याविषयी चुकीचे व्हिडिओ, ऑडिओ, फोटो तयार करण्यात येतात किंवा खऱ्या फोटो, ऑडिओ, व्हिडिओमध्ये फेरफार करून ते चुकीच्या पद्धतीने प्रसारित करण्यात येतात. असे गैरपद्धतीने तयार केलेले deepfake व्हिडिओज, क्लिप्स किंवा फोटो खरे असल्यासारखे भासतात आणि त्यामुळे संबंधिताविषयी गैरसमज किंवा बदनामी होते. निवडणूक काळात अशा प्रकरणांमध्ये वाढ होत असून यावर आळा घालण्यासाठी तसेच स्वच्छ आणि पारदर्शक निवडणूक प्रक्रिया होण्याच्या दृष्टीने ‘डीप फेक’ कंटेंट तयार करणाऱ्या आणि प्रसारित करणाऱ्या समाजकंटकांवर कायद्यानुसार कडक कारवाई करण्यात यावी, अशा सूचना शासनाने दिल्या आहेत.
राज्य शासनामार्फत पोलीस महासंचालकांना यासंदर्भात सूचना देण्यात आल्या असून पोलीस खात्यामार्फत यासंदर्भात कार्यवाही करण्यात येणार आहे. निवडणूक आयोगानेही विपर्यस्त माहिती रोखण्यासंदर्भात त्यांच्या मार्गदर्शिकेमध्ये सूचना दिल्या आहेत.
