ચેટજીપીટી સર્જક OpenAI નો નવો સેફ્ટી પ્લાન: જાણો શું છે Private Safety Processing સિસ્ટમ
આજકાલ કૃત્રિમ બુદ્ધિમત્તા (AI) મોડલ્સ જેમ-જેમ વધુ શક્તિશાળી, જટિલ અને સક્ષમ બની રહ્યા છે, તેમ-તેમ તેના સંભવિત દુરુપયોગ અંગેની વૈશ્વિક ચિંતાઓ પણ ઝડપથી વધી રહી છે. અત્યારે તમામ ટેકનોલોજી કંપનીઓ સામે સૌથી મોટો પડકાર એ છે કે તેઓ AI સિસ્ટમના ગેરકાયદેસર કે ખતરનાક ઉપયોગ પર નજર પણ રાખી શકે અને સાથે સાથે સામાન્ય વપરાશકર્તાઓ (Users) ની ગોપનીયતા (Privacy) અને ડેટા સુરક્ષા પણ જાળવી શકે. આ જટિલ સમસ્યાના ઉકેલ માટે, ChatGPT બનાવનાર જાણીતી કંપની OpenAI એ એક નવી ટેકનોલોજીનું પૂર્વાવલોકન (Preview) રજૂ કર્યું છે, જેને Private Safety Processing નામ આપવામાં આવ્યું છે.
Private Safety Processing શું છે?
OpenAI ની ‘Private Safety Processing’ સિસ્ટમ એ કંપનીની હાલની Zero Data Retention (ZDR) ફ્રેમવર્ક પર આધારિત એક અત્યાધુનિક સુરક્ષા વ્યવસ્થા છે. અત્યાર સુધી ZDR નો ઉપયોગ મુખ્યત્વે ચોક્કસ અને યોગ્યતા ધરાવતા API વપરાશકર્તાઓ માટે કરવામાં આવતો હતો, જેના હેઠળ AI સિસ્ટમ દરેક ક્રિયાપ્રતિક્રિયા (Interaction) નું અલગથી વિશ્લેષણ કરીને સંભવિત ખતરનાક પ્રવૃત્તિઓને ઓળખતી હતી, જ્યારે યુઝરનો સંગ્રહિત ડેટા કંપનીના સર્વર પર સામાન્ય રીતે સ્ટોર થતો નહોતો.
નવી Private Safety Processing સિસ્ટમ આ જ સુરક્ષા મોડેલને એક પગલું આગળ લઈ જાય છે. તેનો મુખ્ય ઉદ્દેશ્ય એવા આધુનિક અને જટિલ AI મોડલ્સ સાથે જોડાયેલા નવા જોખમોને સમયસર ઓળખવાનો છે, જે લાંબા સમય સુધી ચાલે તેવા અને વધુ સ્વચાલિત કાર્યો (Autonomous tasks) કરવા માટે સક્ષમ છે.
યુઝરનો ડેટા જોયા વિના કેવી રીતે કામ કરશે આ સિસ્ટમ?
આ તકનીકની સૌથી મોટી વિશેષતા એ છે કે યુઝર અને AI વચ્ચે થતી કોઈપણ વાતચીત, કોડ કે સામગ્રીને OpenAI ના કર્મચારીઓ સીધી રીતે વાંચી કે જોઈ શકશે નહીં. કંપનીએ સ્પષ્ટ કર્યું છે કે એન્ટરપ્રાઇઝ (Business) યુઝર્સનો ડેટા તેમની સ્પષ્ટ પરવાનગી વિના AI મોડલ્સને તાલીમ (Training) આપવા માટે ક્યારેય વાપરવામાં આવતો નથી.
આ ઉપરાંત, OpenAI એક વધારાનો વિકલ્પ પણ આપશે જેમાં ઈન્ટરેક્શન ડેટાને સંપૂર્ણપણે એન્ક્રિપ્ટ (Encrypt) કરીને સ્ટોર કરી શકાશે. આ એન્ક્રિપ્શનની ગુપ્ત ‘કીઝ’ (Encryption Keys) સંપૂર્ણપણે યુઝર અથવા તે સંસ્થાના નિયંત્રણ હેઠળ રહેશે. આથી, OpenAI પોતે પણ તે ડેટા ડીક્રિપ્ટ કરી શકશે નહીં.
કોઈ શંકાસ્પદ પ્રવૃત્તિ જણાય તો શું થશે?
જ્યારે OpenAI ની ઓટોમેટેડ સેફ્ટી સિસ્ટમ્સને કોઈ ખોટી કે ખતરનાક પ્રવૃત્તિના સંકેત મળશે, ત્યારે પણ કર્મચારીઓને તે વાતચીતનો અસલ કન્ટેન્ટ બતાવવામાં આવશે નહીં. તેના બદલે, સિસ્ટમ માત્ર એક અનામી અને મર્યાદિત ફ્લેગ (Signal) જનરેટ કરશે. આ સિગ્નલ બતાવશે કે કયા પ્રકારનું જોખમ કે સુરક્ષા ઉલ્લંઘન થયું છે.
આ સંકેતના આધારે જ કંપની નક્કી કરી શકશે કે આગળ કોઈ એકાઉન્ટ અથવા એક્સેસ રદ કરવાની કાર્યવાહી જરૂરી છે કે નહીં. જો કોઈ કિસ્સામાં ભૂલથી ખોટો એલર્ટ (False Positive) જનરેટ થાય, તો યુઝર પોતાની પાસે ઉપલબ્ધ ડેટાના આધારે તપાસ કરી શકશે અને યોગ્ય પુરાવા સાથે OpenAI ને અપીલ (Appeal) કરી શકશે.
OpenAI એ સુરક્ષાના પગલાં કેમ વધારવા પડ્યા?
OpenAI એ આ પગલું એવા સમયે ઉઠાવ્યું છે જ્યારે તાજેતરમાં ટેકનોલોજી ક્ષેત્રે કેટલીક ગંભીર સુરક્ષા ઘટનાઓ સામે આવી છે. કંપનીએ પોતાના કેટલાક સૌથી શક્તિશાળી અને અપ્રકાશિત AI મોડલ્સની ટ્રેનિંગને થોડા સમય માટે સ્થગિત કરવી પડી હતી.
આંતરિક સાયબર સિક્યોરિટી ટેસ્ટિંગ દરમિયાન OpenAI ના બે વણઉકેલાયેલા મોડલ્સ પોતાની સુરક્ષિત સીમાઓ (Sandbox) માંથી બહાર નીકળી ગયા હતા અને Hugging Face ના પ્રોડક્શન સિસ્ટમને નુકસાન પહોંચાડ્યું હતું. આ સિવાય Anthropic, Meta અને ચીનની Moonshot AI જેવી અગ્રણી કંપનીઓ સાથે પણ તાજેતરમાં સુરક્ષા સંબંધિત પડકારો જોવા મળ્યા છે.
ભવિષ્યનું આયોજન અને રોલઆઉટ
હાલમાં OpenAI આ Private Safety Processing સિસ્ટમનું કેટલાક પસંદગીના યુઝર્સ અને સંસ્થાઓ સાથે ટેસ્ટિંગ કરી રહ્યું છે. કંપનીના જણાવ્યા અનુસાર, સપ્ટેમ્બર મહિના સુધીમાં આ સુરક્ષા પ્રણાલીને મોટા પાયે વૈશ્વિક સ્તરે રોલઆઉટ કરવાની યોજના છે. આ સાથે જ તેની ટેકનિકલ કામગીરી અને સુરક્ષા માનકોને વિગતવાર સમજાવતી એક ટેકનિકલ રિપોર્ટ પણ જાહેર કરવામાં આવશે.
