નવી દિલ્હી: કેન્દ્ર સરકારે સોશિયલ મીડિયા પ્લેટફોર્મ X ને કડક નોટિસ ફટકારી છે, જેમાં તેને તેના Grok AI માંથી અશ્લીલ કન્ટેન્ટ દૂર કરવાનો નિર્દેશ આપવામાં આવ્યો છે. સરકારે કંપનીને 72 કલાકની અંદર રિપોર્ટ સબમિટ કરવા પણ કહ્યું છે.
છેલ્લા કેટલાક દિવસોમાં સોશિયલ મીડિયા પ્લેટફોર્મ X ના જનરેટિવ AI ચેટબોટ Grok નો દુરુપયોગ વધી રહ્યો છે, જેનો ઉપયોગ વપરાશકર્તાઓ અશ્લીલ કન્ટેન્ટ બનાવવા માટે કરી રહ્યા છે. આ વધતા વલણથી કેન્દ્ર સરકારની ચિંતા વધી છે અને ભારતના ઇલેક્ટ્રોનિક્સ અને માહિતી ટેકનોલોજી મંત્રાલય (IT મંત્રાલય) એ કડક કાર્યવાહી કરી છે અને X ને તાત્કાલિક તેની Grok AI ટેકનોલોજીની સમીક્ષા કરવાનો આદેશ આપ્યો છે.
72 કલાકની અંદર સરકારને રિપોર્ટ સબમિટ કરો
સરકારે એ પણ નિર્દેશ આપ્યો છે કે આ મામલે લેવામાં આવેલી કોઈપણ કાર્યવાહી અથવા સમીક્ષા 72 કલાકની અંદર કેન્દ્ર સરકારને રિપોર્ટ કરવામાં આવે.
સરકારે આ નિર્ણય કેમ લીધો?
હકીકતમાં, X વપરાશકર્તાઓ ફોટા પોસ્ટ કરી નિર્દેશ આપતા હતા કે મહિલાના કપડાં દૂર કરી તેને વધુ ઉત્તેજક રીતે પ્રદર્શિત કરો. ઘણી વખત Grok પરવાનગી વિના મહિલાઓના બદલાવ જેવા આઉટપુટ આપ્યું, જેના પરિણામે અશ્લીલ રુપાંતરણવાળી તસવીરો સામે આવી, જે પ્લેટફોર્મની પોતાની નીતિઓ અને ભારતીય કાયદાઓનું ઉલ્લંઘન કરે છે.
પ્રિયંકા ચતુર્વેદીએ IT મંત્રાલયને પત્ર લખ્યો હતો
મંત્રાલયે એવા અહેવાલો પર ગંભીર ચિંતા વ્યક્ત કરી છે કે X ની AI સેવા "Grok" નો દુરુપયોગ મહિલાઓને લક્ષ્ય બનાવતી અશ્લીલ, અભદ્ર અને લૈંગિક રીતે સ્પષ્ટ સામગ્રી બનાવવા અને શેર કરવા માટે થઈ રહ્યો છે. પત્રમાં ભાર મૂકવામાં આવ્યો છે કે વપરાશકર્તાઓએ અપમાનજનક, કૃત્રિમ તસવીરો અને વિડિયો બનાવવા માટે Grok ની AI ક્ષમતાઓનો દુરુપયોગ કર્યો છે, જે ગોપનીયતા અને ગૌરવનું ઉલ્લંઘન કરે છે. MeitY એ ચેતવણી આપી હતી કે આવા કૃત્યો જાતીય સતામણીને સામાન્ય બનાવે છે અને કાનૂની સુરક્ષાને નબળી પાડે છે.