Grok वर केंद्र सरकारची मोठी कारवाई, भारतीय महिलांबाबत सुरू होता भयानक प्रकार; फोटो पडणार महागात

नवी दिल्ली : केंद्रीय इलेक्ट्रॉनिक्स आणि माहिती तंत्रज्ञान मंत्रालयाने (MeitY) 2 जानेवारी रोजी X Corp च्या भारतातील Compliance Head नोटीस बजावली आहे. या नोटीसमध्ये X प्लॅटफॉर्मवरील AI टूल ‘Grok’ चा गैरवापर करून अश्लील आणि लैंगिक स्वरूपाचा मजकूर तयार करून प्रसारित केला जात असल्याबाबत गंभीर चिंता व्यक्त करण्यात आली आहे.

advertisement

2 जानेवारी रोजी जारी करण्यात आलेल्या या पत्रात मंत्रालयाने नमूद केले आहे की, महिलांना लक्ष्य करून बनावट अकाउंट्स, कृत्रिम (synthetic) प्रतिमा आणि छेडछाड केलेल्या AI प्रॉम्प्ट्सच्या माध्यमातून आक्षेपार्ह मजकूर पसरवला जात असल्याच्या तक्रारी समोर आल्या आहेत. या प्रकारामुळे महिलांच्या प्रतिष्ठा, गोपनीयता आणि सुरक्षिततेवर थेट आघात होत असल्याचे मंत्रालयाने स्पष्ट केले आहे.

MeitY च्या मते, अशा घटनांमधून X प्लॅटफॉर्मवरील सुरक्षा उपाययोजना आणि अंमलबजावणी यंत्रणांमध्ये गंभीर त्रुटी असल्याचे स्पष्ट होते. AI प्रणालींचा अशा प्रकारे गैरवापर होणे हे केवळ नैतिकदृष्ट्या चुकीचे नसून, भारतीय कायद्यांनुसार दंडात्मक कारवाईस पात्र ठरू शकते, असा इशाराही मंत्रालयाने दिला आहे.

YouTube वर व्हिडिओ अपलोड करू नका; कोणाला कोटी, कोणाला दमडीही नाही, खरा खेळ...

मंत्रालयाने स्पष्ट केले आहे की, महिलांविरोधात अश्लील, अशोभनीय किंवा लैंगिक स्वरूपाचा मजकूर तयार करणे व प्रसारित करणे हे विविध भारतीय कायद्यांचे उल्लंघन ठरू शकते आणि अशा प्रकरणांमध्ये संबंधित प्लॅटफॉर्मलाही जबाबदारीपासून सुटका मिळू शकत नाही.

ही नोटीस अशा वेळी जारी करण्यात आली आहे, जेव्हा काही दिवसांपूर्वीच MeitY ने सर्व डिजिटल मध्यस्थांना (intermediaries) एक सल्ला (advisory) जारी केला होता. या सल्ल्यात ऑनलाइन माध्यमांवर अश्लील, बेकायदेशीर आणि समाजाला अपायकारक मजकूर पसरू नये यासाठी अधिक कडक अनुपालन आणि प्रभावी कंटेंट मॉडरेशन करण्याचे निर्देश देण्यात आले होते.

सरकारने AI तंत्रज्ञानाच्या गैरवापराबाबत कठोर भूमिका घेतल्याचे या कारवाईतून स्पष्ट होते. तंत्रज्ञानाचा वापर स्वातंत्र्याच्या नावाखाली महिलांच्या सन्मानाला धक्का देण्यासाठी होऊ देणार नाही, असा स्पष्ट संदेश MeitY कडून या नोटीसद्वारे देण्यात आला आहे.