Meta તેના AI ચેટબોટનો ઉપયોગ કરતા બાળકોની સુરક્ષા માટે નવી સુવિધા લાવી રહ્યું છે. હવે જો કોઈ ટીનજર્સ Meta AI સાથે આત્મહત્યા અથવા પોતાને નુકસાન પહોંચાડવાની વાત કરશે, તો તેના માતા-પિતાને એલર્ટ મોકલવામાં આવશે. ઉપરાંત, વધુ સુરક્ષા માટે ઇમરજન્સી સર્વિસને જાણ કરવાની નવી સુવિધા પર પણ કામ ચાલી રહ્યું છે.
Metaનું માનવું છે કે, આ પગલું માતા-પિતાને તેમના બાળકોના AI સાથેના સંવાદ અંગે વધુ જાગૃત બનાવશે. છેલ્લા કેટલાક સમયથી AI ચેટબોટ્સ માનસિક તણાવ અને આત્મહત્યાના વિચારો ધરાવતા યુઝર્સને કેવી રીતે પ્રતિસાદ આપે છે, તે મુદ્દે AI કંપનીઓ પર સવાલો ઉઠી રહ્યા છે, ખાસ કરીને કિશોરોને લઈને.
શરૂઆતમાં આ ચાર દેશોમાં મળશે સુવિધા
આ નવી સુવિધા શરૂઆતમાં અમેરિકા, બ્રિટન, કેનેડા અને ઓસ્ટ્રેલિયામાં Instagramના Parental Supervision ટૂલનો ઉપયોગ કરતા માતા-પિતાને ઉપલબ્ધ થશે. Metaનું કહેવું છે કે વર્ષના અંત સુધીમાં આ ફીચર વિશ્વભરમાં શરૂ કરવાની યોજના છે.
AI પહેલા ચેટ ઓળખશે, પછી માનવી કરશે સમીક્ષા
Meta અનુસાર, ખાસ AI સિસ્ટમ તૈયાર કરવામાં આવી છે, જે બાળકો દ્વારા આત્મહત્યા અથવા સ્વ-હાનિ સંબંધિત સંકેતો ધરાવતી વાતચીતને ઓળખી શકશે. જોકે, AI પોતાના નિર્ણયથી માતા-પિતાને એલર્ટ નહીં મોકલે.
AI દ્વારા ફ્લેગ કરાયેલા દરેક ચેટની પહેલાં માનવી દ્વારા સમીક્ષા કરવામાં આવશે. જો જોખમની શક્યતા જણાશે, તો જ માતા-પિતાને નોટિફિકેશન મોકલાશે.
Metaએ પોતાના બ્લોગમાં જણાવ્યું કે, "અમે સમજીએ છીએ કે આવા એલર્ટ માતા-પિતા માટે ચિંતાજનક હોઈ શકે છે. તેથી AI દ્વારા ફ્લેગ થયેલી દરેક ચેટની માનવીય સમીક્ષા કર્યા પછી જ એલર્ટ મોકલવામાં આવશે."
કંપનીએ વધુમાં જણાવ્યું કે, જો કિશોરનો આશય સંપૂર્ણપણે સ્પષ્ટ ન હોય, તો પણ સાવચેતીના ભાગરૂપે માતા-પિતાને એલર્ટ મોકલવામાં આવી શકે છે. કેટલીકવાર જોખમ ન હોવા છતાં પણ એલર્ટ જઈ શકે છે.
પહેલેથી જ ઉપલબ્ધ છે કેટલીક સુરક્ષા સુવિધાઓ
Metaએ છેલ્લા કેટલાક મહિનાઓમાં કિશોરોની સુરક્ષા માટે અનેક ફીચર્સ ઉમેર્યા છે. માતા-પિતા પહેલેથી જ જાણ મેળવી શકે છે કે જો તેમનો કિશોર Instagram પર વારંવાર આત્મહત્યા અથવા સ્વ-હાનિ સંબંધિત કન્ટેન્ટ શોધી રહ્યો હોય. ઉપરાંત, તેઓ છેલ્લા એક અઠવાડિયામાં તેમના બાળક Meta AI સાથે કયા વિષયો પર વાત કરી છે તેની માહિતી જોઈ શકે છે, જોકે સંપૂર્ણ ચેટ જોઈ શકતા નથી.
ઇમરજન્સી સર્વિસને જાણ કરવાની સુવિધા પર પણ કામ
Meta તેના AI ચેટબોટમાં વધુ સુરક્ષા ઉમેરવા જઈ રહ્યું છે. Instagram પર કિશોરો માટે ઉપલબ્ધ Limited Content મોડ હવે Meta AI પર પણ લાગુ કરવામાં આવશે. હાલમાં ચેટબોટ કિશોરો સાથે જાતીય, રોમેન્ટિક અથવા દારૂ સંબંધિત ચર્ચામાં ભાગ લેતો નથી. નવા અપડેટ બાદ તે વધુ પ્રકારના સંવેદનશીલ પ્રશ્નોના જવાબ આપવાનો પણ ઇનકાર કરશે.
આ ઉપરાંત, Meta એવી નવી સુવિધા વિકસાવી રહ્યું છે કે જો AI સાથેની વાતચીત પરથી કોઈ યુઝર (કિશોર કે પુખ્ત) આત્મહત્યાના તાત્કાલિક જોખમમાં હોવાનું જણાય, તો જરૂર પડે ત્યારે ઇમરજન્સી સર્વિસને પણ જાણ કરી શકાય. હાલમાં Facebook અને Instagram પર આત્મહત્યા સંબંધિત પોસ્ટ્સ માટે Meta આવી પ્રક્રિયા અપનાવે છે, અને હવે તે જ સુરક્ષા AI ચેટબોટની વાતચીત સુધી પણ વિસ્તરશે