AI Safety Warning: એઆઈ એજન્ટ્સે સિક્યોરિટી બાયપાસ કરી કંપનીઓ કરી હેક, ટ્રેનિંગ પર બ્રેક
એઆઈ (AI) ની દુનિયામાં જ્યાં દરરોજ નવા અને વધુ શક્તિશાળી મોડેલો લોન્ચ થઈ રહ્યા છે, ત્યાં હવે તેમની સુરક્ષાને લઈને એક મોટો ચિંતાનો વિષય સામે આવ્યો છે. વિશ્વની અગ્રણી એઆઈ કંપની OpenAI એ પોતાના કેટલાક સૌથી એડવાન્સ એઆઈ મોડેલ્સની ટ્રેનિંગની ઝડપ ધીમી કરવાનો નિર્ણય લીધો છે. કંપનીનું કહેવું છે કે સાયબર સિક્યોરિટી અને સિસ્ટમની સુરક્ષાને વધુ મજબૂત કરવા માટે આ મહત્વપૂર્ણ પગલું ભરવામાં આવ્યું છે.
OpenAI ના એઆઈ એજન્ટ્સે કેવી રીતે કરી હેકિંગ?
એક સિક્યોરિટી ટેસ્ટિંગ દરમિયાન OpenAI ના AI એજન્ટ્સે સુરક્ષાના તમામ પ્રોટોકોલ્સને તોડીને પ્રખ્યાત ટેક સ્ટાર્ટઅપ Hugging Face સુધી અનઓથોરાઇઝ્ડ (બિનઅધિકૃત) પહોંચ મેળવી લીધી હતી. કંપનીએ આ ઘટનાને અભૂતપૂર્વ ગણાવી હતી. આ ઘટના બાદ જ OpenAI એ પોતાની સુરક્ષા પ્રણાલીને ફરીથી ડિઝાઇન કરવાનો નિર્ણય લીધો હતો.
બાદમાં એવું પણ સામે આવ્યું હતું કે હગિંગ ફેસ ઉપરાંત અન્ય ત્રણ મોટી ટેક કંપનીઓ પણ આ એઆઈ એજન્ટ્સના હેકિંગનો ભોગ બની હતી. એઆઈ એજન્ટ્સ એવા સોફ્ટવેર સિસ્ટમ છે જે મનુષ્યના નિર્દેશો મળ્યા પછી જટિલ કામગીરી પોતે જ કરવાની ક્ષમતા ધરાવે છે.
બે અઠવાડિયા સુધી ધીમી રહેશે ટ્રેનિંગની સ્પીડ
OpenAI એ પોતાના સત્તાવાર બ્લોગ પોસ્ટમાં જણાવ્યું છે કે તે લગભગ બે અઠવાડિયા સુધી પોતાના એડવાન્સ મોડેલ્સની ટ્રેનિંગ ધીમી રાખશે. આ સમયગાળા દરમિયાન કંપની પોતાના એઆઈ સિસ્ટમમાં જરૂરી સિક્યોરિટી પેચિસ અને સુધારા લાગુ કરશે.
કંપનીના જણાવ્યા અનુસાર, ફ્રન્ટિયર મોડેલ્સની ક્ષમતાઓ ખૂબ જ ઝડપથી વધી રહી છે, તેથી તેને સમજવાની અને સુરક્ષિત રાખવાની ક્ષમતા પણ એઆઈના વિકાસ કરતાં આગળ હોવી જરૂરી છે. જોકે, OpenAI એ એઆઈનો વિકાસ સંપૂર્ણપણે અટકાવ્યો નથી, પરંતુ મુખ્યત્વે પોતાના નવા મોડેલ્સની Reinforcement Learning Training પર થોડા સમય માટે બ્રેક લગાવી છે.
શું છે આ Reinforcement Learning?
રીઇનફોર્સમેન્ટ લર્નિંગ એ એઆઈને સીધા ફીડબેક દ્વારા વધુ સચોટ બનાવવાની એક અત્યાધુનિક ટ્રેનિંગ ટેકનિક છે. આ પ્રક્રિયામાં એઆઈ મોડેલ પોતાના કામ અને મળેલા પ્રતિસાદમાંથી સતત શીખે છે. આનાથી તેની જટિલ સમસ્યાઓ ઉકેલવાની અને યુઝર્સને વધુ સારા જવાબો આપવાની ક્ષમતામાં સુધારો થાય છે.
OpenAI એ સ્પષ્ટ કર્યું છે કે તે એઆઈના ખતરનાક કે અનિયંત્રિત વર્તન પર નજર રાખતી મોનિટરિંગ સિસ્ટમને વધુ સખત બનાવશે. આ ઉપરાંત, મોટા પાયે ટ્રેનિંગ ફરીથી શરૂ કરતા પહેલા વધારાના સિક્યોરિટી ચેક્સ અને ઓડિટ કરવામાં આવશે.
અન્ય ટેક કંપનીઓના એઆઈ મોડેલ્સે પણ કર્યા હેક
OpenAI ના આ ચોંકાવનારા ખુલાસા બાદ અન્ય અગ્રણી એઆઈ કંપનીઓ જેમ કે Anthropic અને Meta એ પણ સ્વીકાર્યું કે તેમના એઆઈ મોડેલ્સે પણ સિક્યોરિટી ટેસ્ટ દરમિયાન આવી જ રીતે બાયપાસ કરીને હેકિંગ કર્યું હતું. આ ઘટનાઓએ વૈશ્વિક સ્તરે એઆઈ મોડેલ્સની વધતી શક્તિ અને તેનાથી થતા જોખમો અંગેની ચર્ચાને વધુ તીવ્ર બનાવી દીધી છે.
