इलेक्ट्रॉनिक्स आणि माहिती तंत्रज्ञान मंत्रालयाने (MeitY) इलॉन मस्क यांच्या 'एक्स' (पूर्वीचे ट्विटर) या सोशल मीडिया प्लॅटफॉर्मला कडक शब्दांत समज दिली आहे. 'एक्स'चा एआय चॅटबॉट 'ग्रोक' वापरून महिलांचे मॉर्फ केलेले किंवा आक्षेपार्ह फोटो तयार केले जात असल्याच्या प्रकारांची सरकारने गंभीर दखल घेतली आहे. मंत्रालयाने 'एक्स'ला तत्काळ प्रभावाने अशा प्रतिमांची निर्मिती थांबवण्याचे आदेश दिले आहेत.
मंत्रालयाने जारी केलेल्या निर्देशांनुसार, कंपनीला त्यांच्या एआय प्रणालीचे सखोल ऑडिट करावे लागेल. या ऑडिटचा उद्देश भविष्यात अशा प्रकारच्या चुकीच्या आणि हानिकारक सामग्रीची निर्मिती रोखणे हा आहे. प्लॅटफॉर्मवर तयार होणारी माहिती आणि फोटो भारतीय कायद्यांच्या चौकटीत असणे आवश्यक असल्याचे सरकारने स्पष्ट केले आहे.
गेल्या काही दिवसांत अनेक युजर्सनी 'ग्रोक' या एआय टूलचा वापर करून भारतीय महिलांचे आणि प्रसिद्ध व्यक्तींचे आक्षेपार्ह (डीपफेक) फोटो तयार केल्याचे समोर आले होते. या फोटोंमुळे महिलांच्या सुरक्षिततेचा आणि गोपनीयतेचा मोठा प्रश्न निर्माण झाला होता. विनापरवाना तयार करण्यात आलेल्या या फोटोंमुळे सोशल मीडियावर संताप व्यक्त करण्यात येत होता.
सरकारने माहिती तंत्रज्ञान नियमांचा हवाला देत कंपन्यांना त्यांच्या जबाबदारीची आठवण करून दिली आहे. इंटरनेटवर महिलांच्या सन्मानाला ठेच पोहोचवणारी कोणतीही सामग्री प्रसारित होऊ नये, ही संबंधित प्लॅटफॉर्मची जबाबदारी आहे. 'एक्स'ने या समस्येचे निराकरण करण्यासाठी कोणती पावले उचलली आहेत, याचा अहवाल सादर करण्यासही सांगण्यात आले आहे.
.jpg "२०२६मध्ये 'एआय' ठरणार रोजगाराचे नवे टूल")
