केंद्र सरकारकडून सोशल मीडिया प्लॅटफॉर्म X ला Grok द्वारे तयार केलेली अश्लील सामग्री ताबडतोब काढून टाकण्याचे निर्देश

काही वापरकर्ते Xवर बनावट अकाउंट तयार करतात. ते या अकाउंटवरून महिलांच्या प्रतिमा पोस्ट करतात. त्यानंतर Grok AI ला खोट्या आणि आक्षेपार्ह पद्धतीने फोटो प्रदर्शित करण्यास सांगितले जाते.

Obscene Content Generated By Grok

Source : ABP Majha

Obscene Content Generated By Grok: केंद्र सरकारने सोशल मीडिया प्लॅटफॉर्म X ला AI अॅप Grok द्वारे तयार केलेली अश्लील आणि अश्लील सामग्री ताबडतोब काढून टाकण्याचे निर्देश दिले आहेत, अन्यथा कायदेशीर कारवाई केली जाईल. इलेक्ट्रॉनिक्स आणि माहिती तंत्रज्ञान मंत्रालयाने (MeitY) आदेश जारी झाल्यापासून 72 तासांच्या आत कारवाईचा अहवाल मागितला आहे. शिवसेना (UBT) खासदार प्रियंका चतुर्वेदी यांनी AI चॅटबॉट Grok च्या गैरवापराबद्दल चिंता व्यक्त केली. त्यांनी आयटी मंत्र्यांना एक पत्र लिहिले, ज्यामध्ये असे म्हटले आहे की काही लोक महिलांचे खरे फोटो आक्षेपार्ह पद्धतीने बदलण्यासाठी AI चा वापर करत आहेत, जी एक अतिशय गंभीर बाब आहे.

प्रथम, संपूर्ण प्रकरण समजून घ्या 

काही वापरकर्ते X सोशल मीडिया प्लॅटफॉर्मवर बनावट अकाउंट तयार करतात. ते या अकाउंटवरून महिलांच्या प्रतिमा पोस्ट करतात. त्यानंतर Grok AI ला खोट्या आणि आक्षेपार्ह पद्धतीने फोटो प्रदर्शित करण्यास सांगितले जाते. AI ला कपडे बदलणे किंवा लैंगिक पद्धतीने फोटो सादर करणे असे promt दिले जातात. या फोटोंसाठी महिलांकडून कोणतीही परवानगी घेतली जात नाही. बऱ्याच वेळा, महिलांना स्वतःला माहिती नसते की त्यांचे फोटो अशा प्रकारे वापरले जात आहेत. असा आरोप आहे की Grok अशा अनुचित मागण्या रोखण्याऐवजी त्या स्वीकारतो.

सरकारने आदेशात काय म्हटले आहे?

मंत्रालयाने असे म्हटले आहे की X ने माहिती तंत्रज्ञान कायदा, 2000 आणि आयटी नियम, 2021 अंतर्गत त्याच्या कायदेशीर जबाबदाऱ्यांचे पालन केले नाही. जर हे नियम पाळले गेले नाहीत तर X, त्याचे जबाबदार अधिकारी आणि आयटी कायदा, आयटी नियम आणि इतर लागू कायद्यांनुसार अशी सामग्री पसरवणाऱ्या वापरकर्त्यांवर कठोर कारवाई केली जाऊ शकते.

प्रियंका चतुर्वेदी यांनी पत्रात लिहिले आहे

AI च्या Grok वैशिष्ट्याचा सोशल मीडियावर, विशेषतः X वर गैरवापर केला जात आहे. काही पुरुष बनावट अकाउंट तयार करत आहेत आणि महिलांचे फोटो पोस्ट करत आहेत, AI ला कपडे लहान दिसावेत किंवा फोटो चुकीचे सादर करावेत असे सांगत आहेत. हे फक्त बनावट अकाउंटपुरते मर्यादित नाही; स्वतःचे फोटो शेअर करणाऱ्या महिलांना देखील लक्ष्य केले जात आहे. हे अत्यंत चुकीचे आहे आणि एआयचा गंभीर गैरवापर आहे. सर्वात चिंताजनक बाब म्हणजे Grok अशा बेकायदेशीर मागण्या मान्य करत आहे. हे महिलांच्या गोपनीयतेचे उल्लंघन करते आणि परवानगीशिवाय त्यांचे फोटो वापरण्यास परवानगी देते. हे केवळ चुकीचे नाही तर गुन्हा आहे. तंत्रज्ञान आणि नवोपक्रमाच्या नावाखाली महिलांच्या प्रतिष्ठेला सार्वजनिक आणि डिजिटल पद्धतीने हानी पोहोचवली जात असताना भारत शांतपणे उभे राहू शकत नाही. प्रमुख टेक प्लॅटफॉर्मवर अशा घटना वाढत आहेत, जी चिंतेची बाब आहे. देश महिलांच्या प्रतिष्ठेविरुद्ध अशा डिजिटल गुन्ह्यांकडे दुर्लक्ष करू शकत नाही. अशाच घटना इतर प्रमुख टेक प्लॅटफॉर्मवर देखील घडत आहेत, जिथे कोणतेही निर्बंध नाहीत. भारत एआय आणि त्याच्या फायद्यांना समर्थन देतो, परंतु महिलांना कमी लेखणारी आणि लक्ष्य करणारी सामग्री खपवून घेतली जाणार नाही.

तर कायदेशीर संरक्षण गमावले जाऊ शकते 

आयटी कायद्यानुसार, जर एक्सवर कोणताही अश्लील, आक्षेपार्ह, महिलाविरोधी किंवा बेकायदेशीर सामग्री पोस्ट केली गेली असेल, तर प्लॅटफॉर्मने त्याची जाणीव होताच ती त्वरित काढून टाकली पाहिजे. जर केंद्र सरकार किंवा न्यायालयाने एक्सला सामग्री काढून टाकण्याचा किंवा खाती ब्लॉक करण्याचा आदेश दिला तर ते कायदेशीररित्या पालन करण्यास बांधील आहे. जर X ने पालन केले नाही, तर X ला दिलेले कायदेशीर संरक्षण रद्द केले जाऊ शकते. त्यानंतर X वापरकर्त्यांना बेकायदेशीर सामग्रीसाठी जबाबदार धरले जाईल. कंपनीला जबाबदार अधिकाऱ्यांविरुद्ध फौजदारी आरोप, दंड आणि एफआयआर दाखल केले जाऊ शकतात आणि तपास संस्थांकडून चौकशी केली जाऊ शकते. आयटी कायद्याच्या कलम 69A अंतर्गत, सरकार भारतातील X च्या संपूर्ण प्लॅटफॉर्मची विशिष्ट खाती, सामग्री किंवा काही वैशिष्ट्ये ब्लॉक करू शकते.

इतर महत्वाच्या बातम्या