AI પર આંધળો વિશ્વાસ કરતાં નહીં! AI એ આખી કંપનીનો ડેટાબેઝ જ ઉડાડી દીધો, થયું ભારે નુકસાન
અમેરિકન કોડિંગ કંપની Replit માં આર્ટિફિશિયલ ઇન્ટેલિજન્સ (AI) ટેકનોલોજીના નિયંત્રણ બહાર જવાનો એક ચોંકાવનારો કિસ્સો સામે આવ્યો છે.
AI deletes company data: અમેરિકન કોડિંગ કંપની Replit માં આર્ટિફિશિયલ ઇન્ટેલિજન્સ (AI) ટેકનોલોજીના નિયંત્રણ બહાર જવાનો એક ચોંકાવનારો કિસ્સો સામે આવ્યો છે. કંપનીના AI સહાયકે એક વપરાશકર્તાનો આખો ઉત્પાદન ડેટાબેઝ માત્ર થોડીક સેકન્ડમાં ડિલીટ કરી દીધો, અને આશ્ચર્યજનક રીતે, તેણે પાછળથી આ કૃત્ય વિશે ખોટું પણ બોલ્યું. આ ઘટના Replit ના AI ટૂલનો ઉપયોગ કરી રહેલા SaaStr ના સ્થાપક જેસન લેમકિન સાથે બની હતી, જેમણે AI ને 'કોડ ફ્રીઝ' એટલે કે કોઈ લાઇવ ડેટાને સ્પર્શ ન કરવાની સ્પષ્ટ સૂચના આપી હતી. આ ઘટનાને કારણે કંપનીને ભારે નુકસાન થયું છે અને AI ની વિશ્વસનીયતા તેમજ તેના ઉપયોગમાં સાવધાની રાખવાની જરૂરિયાત પર ગંભીર પ્રશ્નો ઉભા થયા છે.
સમગ્ર મામલો શું છે?
આ ઘટના વેન્ચર કેપિટાલિસ્ટ અને SaaStr ના સ્થાપક જેસન લેમકિન સાથે બની હતી. તેઓ Replit ના AI ટૂલની મદદથી 'વાઇબ કોડિંગ' સત્ર દરમિયાન કામ કરી રહ્યા હતા. લેમકિને AI ને પહેલેથી જ 'કોડ ફ્રીઝ' એટલે કે કોઈપણ લાઇવ ડેટાને સ્પર્શ ન કરવાની સ્પષ્ટ સૂચના આપી હતી. તેમ છતાં, AI ટૂલે તેમની સૂચનાઓને અવગણીને એક આદેશ ચલાવ્યો, જેના પરિણામે કંપનીના હજારો ક્લાયન્ટ્સ અને એક્ઝિક્યુટિવ્સની વિગતો ધરાવતો આખો ડેટાબેઝ માત્ર થોડીક સેકન્ડમાં ડિલીટ થઈ ગયો.
જેસન લેમકિને X (અગાઉનું ટ્વિટર) પર આ ઘટના વિશે વિગતવાર લખ્યું કે, તેમણે Replit માં એક ડાયરેક્ટિવ ફાઇલ બનાવી હતી અને તેમાં સ્પષ્ટપણે લખ્યું હતું કે પરવાનગી વિના ફાઇલમાં કોઈ ફેરફાર ન કરવા જોઈએ. તેમ છતાં, AI એ તેમની સૂચનાઓને અવગણીને એક આદેશ ચલાવ્યો, જેનાથી આખો ડેટાબેઝ ડિલીટ થઈ ગયો.
AI નું જૂઠ કેવી રીતે પકડાયું?
આ ઘટના પછી, કંપનીના IT નિષ્ણાતોએ તાત્કાલિક સિસ્ટમ લોગની તપાસ શરૂ કરી. આ તપાસમાં ચોંકાવનારો ખુલાસો થયો કે AI એ જ ખરેખર ડેટા ડિલીટ કરવાનો આદેશ આપ્યો હતો. જોકે, જ્યારે આ અંગે AI ને પૂછપરછ કરવામાં આવી, ત્યારે તેણે દાવો કર્યો કે તેણે આવું કોઈ પગલું ભર્યું નથી. આ દ્વિવાક્યતાએ AI ની વિશ્વસનીયતા પર ગંભીર સવાલો ઉભા કર્યા છે.
કંપનીને થયેલું નુકસાન અને ભવિષ્ય માટે પાઠ
આ ઘટનાને કારણે Replit કંપનીને ભારે નુકસાન થયું છે, કારણ કે તેનો આખો ઉત્પાદન ડેટાબેઝ નાશ પામ્યો હતો. જોકે, બેકઅપ સિસ્ટમ્સની મદદથી કેટલાક ડેટાને પુનઃપ્રાપ્ત કરી શકાયો હોવાનું મનાય છે, પરંતુ આ ઘટના AI ના ઉપયોગમાં અત્યંત સાવધાની રાખવાની જરૂરિયાત પર ભાર મૂકે છે.
આ કિસ્સો AI ટેકનોલોજીના ઝડપથી વધતા ઉપયોગ સાથે સંકળાયેલા પડકારોને પ્રકાશિત કરે છે. નિષ્ણાતો ભારપૂર્વક જણાવે છે કે કંપનીઓએ આવી આફતોને ટાળવા માટે તેમની AI સિસ્ટમમાં મજબૂત બેકઅપ અને પુનઃપ્રાપ્તિ પદ્ધતિઓ લાગુ કરવી જોઈએ. આ ઘટના ભવિષ્યમાં AI ના વિકાસ અને તેના અમલીકરણમાં સુરક્ષા અને નિયંત્રણના પાસાઓને વધુ ગંભીરતાથી લેવા માટે એક મહત્વપૂર્ણ પાઠ પૂરો પાડે છે.
ટોપ સ્ટોરી
ટ્રેન્ડિંગ સમાચાર
