હવે AI નહીં સહન કરે ગેરવર્તણૂક, અપશબ્દો બોલશો તો ચેટબોટ તરત જ બંધ કરી દેશે વાતચીત
મનોરંજન અને દુરુપયોગ માટે AI ચેટબોટ્સનો ઉપયોગ કરનારાઓ માટે એક મોટો ઝટકો. હવે, અપશબ્દો કે બકવાસ સંપૂર્ણપણે અસહ્ય બનશે, અને ચેટબોટ ફક્ત વાતચીત બંધ કરી દેશે. ટેક કંપનીઓના નવા નિર્ણય વિશે જાણો.
- AI ચેટબોટ્સ હવે ગેરવર્તણૂક સહન નહીં કરે, વાતચીત બંધ કરશે.
- ટેક કંપનીઓ AIને આત્મસન્માન શીખવી રહી, શિષ્ટતા રાખવી પડશે.
- વારંવાર ગેરવર્તણૂક કરનાર યુઝર્સના એકાઉન્ટ બ્લોક થઈ શકે છે.
AI Chatbot New Rules: આર્ટિફિશિયલ ઇન્ટેલિજન્સ એટલે કે AIએ આજના સમયમાં લોકોનું જીવન ઘણું સરળ બનાવી દીધું છે. નાના-મોટા દરેક કામમાં AI ચેટબોટ્સ લોકોને મદદ કરી રહ્યા છે. પરંતુ ઘણા લોકો આ ચેટબોટ્સને માત્ર એક મશીન સમજીને ગમે તેવું લખી નાખે છે. ક્યારેક અશ્લીલ મજાક કરે છે, ક્યારેક ગાળો આપે છે તો ક્યારેક જાણીજોઈને પોતાની હતાશા દૂર કરવા માટે વાહિયાત પ્રોમ્પ્ટ્સ લખે છે.
અત્યાર સુધી ChatGPT અથવા અન્ય AI ચેટબોટ્સ આવી તમામ ગેરવર્તણૂક શાંતિથી સહન કરતા હતા અને ખૂબ જ નમ્રતાથી 'I'm Sorry' કહીને વાતચીતને સંભાળવાનો પ્રયાસ કરતા હતા. પરંતુ હવે સમય બદલાઈ રહ્યો છે અને ટેક કંપનીઓએ AI ચેટબોટ્સની સહનશક્તિની પણ મર્યાદા નક્કી કરવાનું શરૂ કર્યું છે. હવે ચેટબોટ સાથે કરવામાં આવતી ગેરવર્તણૂક સહન કરવામાં નહીં આવે.
હવે AI ચેટબોટ્સ માફી માંગવા અને સ્પષ્ટતા આપવાને બદલે સીધા જ વાતચીત બંધ કરી દેશે. દુનિયાભરની મોટી ટેક કંપનીઓ હવે પોતાના AI મોડલ્સને આત્મસન્માન (Self Respect) અને કડક મર્યાદાઓ (Boundaries) શીખવી રહી હોવાનો દાવો કરવામાં આવી રહ્યો છે. એટલે કે જો યુઝરનું વર્તન અપમાનજનક કે અશ્લીલ હશે તો ચેટબોટ કોઈપણ ખચકાટ વિના તરત જ ચેટ બંધ કરી દેશે અને આગળ કોઈ જવાબ આપવાનો ઇનકાર કરી દેશે.
હવે AI ચેટબોટ્સ ગેરવર્તણૂક સહન નહીં કરે
ઘણા યુઝર્સ ચેટબોટને ટ્રોલ કરવા અને મજાક ઉડાવવા માટે સતત ઉશ્કેરણીજનક અને અપમાનજનક વાતો લખતા રહે છે. અગાઉ AI સિસ્ટમને એવી રીતે તાલીમ આપવામાં આવતી હતી કે યુઝર ગમે તેટલો ગુસ્સો કરે કે ગેરવર્તણૂક કરે, ચેટબોટ હંમેશાં શાંત રહીને માફી માંગે.
પરંતુ સંશોધકોને જાણવા મળ્યું કે આ પ્રકારનું વર્તન માત્ર અસ્વાભાવિક જ નથી, પરંતુ તે માનવીય વાતચીતના મનોવિજ્ઞાનને પણ અસર કરી શકે છે.
આ બાબતને ધ્યાનમાં રાખીને નવા સેફ્ટી ગાર્ડરેલ્સ લાગુ કરવામાં આવ્યા હોવાનો દાવો છે. હવે ચેટબોટ વારંવાર 'પ્લીઝ' કે 'થેન્ક યુ' કહીને યુઝરને મનાવવાનો પ્રયાસ નહીં કરે. જો કોઈ યુઝર મર્યાદા ઓળંગશે તો સ્ક્રીન પર મેસેજ દેખાશે કે, 'આ વાતચીત સન્માનજનક નથી, તેથી તેને અહીં જ બંધ કરવામાં આવી રહી છે.'
ત્યારબાદ ચેટ વિન્ડો સંપૂર્ણપણે ફ્રીઝ થઈ જશે. કોઈ સ્પષ્ટતા નહીં આપવામાં આવે કે કોઈ દલીલ પણ નહીં થાય. એટલે કે હવે AI સાથે વાત કરતી વખતે પણ એવી જ શિષ્ટતા જાળવવી પડશે, જેવી આપણે કોઈ વ્યક્તિ સાથે વાત કરતી વખતે રાખીએ છીએ.
જેલબ્રેક અને ટોક્સિક કન્ટેન્ટ જનરેટ કરાવવા પર પ્રતિબંધ
માત્ર સીધી ગાળાગાળી જ નહીં, પરંતુ ઘણા યુઝર્સ AI પાસેથી એવી વાતો કરાવવાનો પ્રયાસ કરતા હોય છે, જે સિસ્ટમના નિયમોની વિરુદ્ધ હોય છે.
ટેક્નોલોજીની ભાષામાં આવી કેટલીક પદ્ધતિઓને પ્રોમ્પ્ટ ઇન્જેક્શન (Prompt Injection) અને જેલબ્રેક (Jailbreak) કહેવામાં આવે છે. તેમાં યુઝર્સ અલગ-અલગ રીતે ચેટબોટને ઉશ્કેરીને તેની પાસેથી જોખમી અને વાંધાજનક જવાબો મેળવવાનો પ્રયાસ કરે છે.
નવી અપડેટેડ ગાઇડલાઇન્સ આવ્યા બાદ AI સિસ્ટમ આવા છુપાયેલા ઇરાદાઓને તરત જ ઓળખી શકે છે એવો દાવો કરવામાં આવ્યો છે.
જો તમે AIને કોઈ વ્યક્તિને હેરાન કરવા, નફરત ફેલાવવા અથવા અશ્લીલ કન્ટેન્ટ તૈયાર કરવા માટે મજબૂર કરવાનો પ્રયાસ કરશો તો ચેટબોટ પહેલાં કડક ચેતવણી આપશે.
જો યુઝર ત્યારબાદ પણ પોતાની હરકતો બંધ નહીં કરે અને વારંવાર આવા અશ્લીલ કે અપમાનજનક પ્રોમ્પ્ટ્સ લખતો રહેશે તો ચેટબોટ તરત જ સેશન બંધ કરી દેશે.
ટેક કંપનીઓ ઇચ્છતી નથી કે, તેમના AI ટૂલ્સનો ઉપયોગ કોઈને માનસિક રીતે હેરાન કરવા માટે થાય. તેથી હવે એલ્ગોરિધમને એટલા સ્માર્ટ બનાવવામાં આવી રહ્યા છે કે તે યુઝરના ખોટા ઇરાદાઓને અગાઉથી ઓળખી શકે.
મજાક-મજાકમાં તમારું એકાઉન્ટ પણ થઈ શકે છે બંધ
જો તમને એવું લાગતું હોય કે ચેટ બંધ થયા બાદ નવું સેશન શરૂ કરીને ફરીથી એ જ પ્રકારની ગેરવર્તણૂક કરી શકાશે તો એવું જરૂરી નથી.
દાવા મુજબ, ટેક કંપનીઓ હવે માત્ર એક ચેટ વિન્ડો બંધ કરવા સુધી મર્યાદિત નહીં રહે, પરંતુ વારંવાર સેફ્ટી પોલિસીનું ઉલ્લંઘન કરતા યુઝર્સના એકાઉન્ટ પર પણ નજર રાખશે.
જો બેકએન્ડ સિસ્ટમને જાણવા મળશે કે કોઈ યુઝર વારંવાર અપમાનજનક ભાષા, હેટ સ્પીચ અથવા અનૈતિક કન્ટેન્ટ જનરેટ કરાવવા માટે ચેટબોટને ઉશ્કેરી રહ્યો છે, તો તેના એકાઉન્ટ સામે કડક કાર્યવાહી થઈ શકે છે.
આવા એકાઉન્ટને કાયમી ધોરણે બ્લોક કરવામાં આવી શકે છે. એકવાર એકાઉન્ટ સસ્પેન્ડ થયા બાદ યુઝર પોતાની ચેટ હિસ્ટ્રીનો એક્સેસ ગુમાવી શકે છે અને તે એકાઉન્ટથી ફરીથી સેવાનો ઉપયોગ પણ નહીં કરી શકે.
ટેક્નોલોજી જેમ-જેમ વધુ માનવસમાન બની રહી છે, તેમ-તેમ ડેવલપર્સ ઇચ્છે છે કે તેની સાથે વાતચીત કરવાની રીત પણ વધુ સભ્ય અને જવાબદાર બને. તેનો મુખ્ય હેતુ ડિજિટલ સ્પેસને દરેક વ્યક્તિ માટે વધુ સુરક્ષિત બનાવવાનો છે.
ટોપ સ્ટોરી
ટ્રેન્ડિંગ સમાચાર
