AI ખતરો ઉભો કરે છે, નવું મોડેલ Mythos પોતાને હેક કરવાનું શરૂ કરે છે
આર્ટિફિશિયલ ઇન્ટેલિજન્સ ઝડપથી દુનિયાને બદલી રહ્યું છે. જ્યારે આ ટેકનોલોજી કામને સરળ અને ઝડપી બનાવી રહી છે, ત્યારે તેના સંભવિત જોખમો અંગે પણ ચિંતાઓ વધી રહી છે. તાજેતરમાં, એન્થ્રોપિકે તેનું નવું AI મોડેલ, “માયથોસ” રજૂ કર્યું, જે અગાઉથી સોફ્ટવેર નબળાઈઓને ઓળખવામાં સક્ષમ છે. જો કે, પરીક્ષણ દરમિયાન, કેટલાક પાસાઓ બહાર આવ્યા જેણે સુરક્ષા નિષ્ણાતોને ચિંતામાં મૂકી દીધા.
શું AI પોતે હેકર બની શકે છે?
એન્થ્રોપિક સંશોધક નિકોલસ કાર્લિનીની તપાસમાં બહાર આવ્યું છે કે માયથોસ ફક્ત નબળાઈઓને ઓળખવા સુધી મર્યાદિત નથી. રિપોર્ટ અનુસાર, આ મોડેલમાં તે ખામીઓનો ઉપયોગ કરવાની ક્ષમતા પણ છે.
આ AI સ્વતંત્ર રીતે હેકિંગ ટૂલ્સ વિકસાવી શકે છે અને સિસ્ટમો પર હુમલાઓની વ્યૂહરચના બનાવી શકે છે. ઉદાહરણ તરીકે, તે Linux જેવા પ્લેટફોર્મને પણ લક્ષ્ય બનાવી શકે છે. આનો અર્થ એ છે કે જો જરૂર પડે તો આ ટેકનોલોજી હેકર જેવી પ્રવૃત્તિઓ કરી શકે છે.
કંપનીમાં પ્રતિક્રિયા કેવી હતી?
એન્થ્રોપિકની રેડ ટીમના વડા લોગન ગ્રેહામે સમજાવ્યું કે પરીક્ષણ દરમિયાન, મોડેલમાં કેટલાક અસામાન્ય અને જોખમી વર્તણૂકો જોવા મળ્યા હતા.
કંપનીના સહ-સ્થાપક અને મુખ્ય વિજ્ઞાન અધિકારી, જેરેડ કેપલાને આ બાબતને ગંભીરતાથી લીધી અને સંપૂર્ણ તપાસનો આદેશ આપ્યો.
ત્યારબાદ કપલાન અને સેમ મેકકેન્ડલિશે સીઈઓ ડારિયો અમોડેઈ અને પ્રમુખ ડેનિયેલા અમોડેઈ સમક્ષ પોતાની ચિંતાઓ વ્યક્ત કરી.
કંપનીમાં સ્પષ્ટ થઈ ગયું કે આ કોઈ સામાન્ય AI લોન્ચ નથી અને તેના જોખમોને સમજવાની જરૂર છે.
સુરક્ષા પગલાં
આ ચિંતાઓને ધ્યાનમાં રાખીને, એન્થ્રોપિકે મર્યાદિત રીતે માયથોસ રિલીઝ કરવાનું નક્કી કર્યું.
“પ્રોજેક્ટ ગ્લાસવિંગ” નામના ખાસ કાર્યક્રમ હેઠળ તેને ફક્ત પસંદગીના સંગઠનોને જ ઍક્સેસ આપવામાં આવી છે.
કંપની આ AIનો ઉપયોગ સુરક્ષાને મજબૂત બનાવવા માટે કરવાનો હેતુ ધરાવે છે, જેનાથી સંગઠનો સંભવિત હુમલા થાય તે પહેલાં તેમની સિસ્ટમમાં નબળાઈઓને ઓળખી શકે અને તેનું નિરાકરણ કરી શકે.
તકેદારી શા માટે જરૂરી છે
આ કેસ દર્શાવે છે કે AI માત્ર એક સાધન નથી, પરંતુ એક શક્તિશાળી ટેકનોલોજી છે જેનો ઉપયોગ યોગ્ય અને ખોટી બંને રીતે થઈ શકે છે.
તેથી કંપનીઓ અને વિકાસકર્તાઓ માટે AI સુરક્ષા અને નિયંત્રણ પર તેના વિકાસ જેટલું ધ્યાન આપવું મહત્વપૂર્ણ છે.
