જેમિનીમાં નવી નબળાઈ મળી, હેકર્સે અપનાવી પરોક્ષ પ્રોમ્પ્ટ ઇન્જેક્શન પદ્ધતિ
જ્યારે ગૂગલના AI આસિસ્ટન્ટ, જેમિની, ને કેલેન્ડરનો ઉપયોગ કરવાની સુવિધા મળી, ત્યારે તે વપરાશકર્તાઓને તેમની એપોઇન્ટમેન્ટ, ફ્રી સ્લોટ્સ અને આગામી ઇવેન્ટ્સ વિશે માહિતી આપી શક્યું. પ્રથમ નજરમાં, આ સુવિધા ઉપયોગી લાગે છે, જે કેલેન્ડર વારંવાર ખોલવાની જરૂરિયાતને દૂર કરે છે. જો કે, સાયબર સુરક્ષા નિષ્ણાતો માને છે કે AI ને આટલી ઊંડાણપૂર્વકની ઍક્સેસ આપવાથી જોખમો પણ વધે છે.
સાયબર સુરક્ષા કંપની મિગો સિક્યુરિટીના સંશોધકોએ ઇન્ડાયરેક્ટ પ્રોમ્પ્ટ ઇન્જેક્શન નામની એક નવી પ્રકારની નબળાઈ ઓળખી. આ તકનીકમાં, હેકર્સ વપરાશકર્તાને દેખીતી રીતે સામાન્ય Google કેલેન્ડર આમંત્રણ મોકલે છે. આ આમંત્રણ એક સામાન્ય મીટિંગ વિનંતી હોય તેવું લાગે છે, પરંતુ તેના વર્ણનમાં છુપાયેલા સૂચનો છે જે ફક્ત માણસો જ સમજી શકે છે, પરંતુ AI નહીં.
આ સૂચનાઓ કોડ અથવા અસ્પષ્ટ ભાષામાં લખાયેલી નથી, પરંતુ સરળ, કુદરતી ભાષામાં લખાયેલી છે. જેમિની જેવી AI સિસ્ટમો, જે ભાષા અને સંદર્ભને સમજે છે, તેઓ આને વાસ્તવિક સૂચનાઓ માટે ભૂલ કરે છે અને મૂંઝવણમાં મુકાય છે.
જ્યારે કોઈ વપરાશકર્તા જેમિનીને પૂછે છે કે શું તેઓ ચોક્કસ દિવસ કે સમયે મુક્ત છે, ત્યારે AI સમગ્ર કેલેન્ડર સ્કેન કરે છે. આ પ્રક્રિયા દરમિયાન, તે છુપાયેલા સૂચનાઓ ધરાવતા શંકાસ્પદ આમંત્રણોને પણ શોધી કાઢે છે. પછી નવા કેલેન્ડર ઇવેન્ટ્સ બનાવવા માટે જેમિની આપમેળે મીટિંગ્સ અને ઇવેન્ટ્સનો સારાંશ આપી શકે છે. આ પ્રક્રિયા સંપૂર્ણપણે સામાન્ય લાગે છે, પરંતુ તે વપરાશકર્તાની જાણ વગર તેમની વ્યક્તિગત માહિતીને જાહેર કરવાનું જોખમ ઊભું કરે છે.
આ નબળાઈ શોધ્યા પછી, મિગો સિક્યુરિટીએ ગૂગલની સુરક્ષા ટીમને જાણ કરી. તપાસ પછી, ગૂગલે નબળાઈ સ્વીકારી અને તેને સુધારી. નિષ્ણાતો કહે છે કે આ ઘટના એક મહત્વપૂર્ણ ચેતવણી છે, કારણ કે AI ધમકીઓ હવે માલવેર અથવા કોડિંગ સુધી મર્યાદિત નથી.
જેમ જેમ AI સિસ્ટમ્સ ઇમેઇલ, કેલેન્ડર અને વ્યક્તિગત ડેટાની વધુ ઍક્સેસ મેળવે છે, તેમ તેમ ભાષા-આધારિત હુમલાઓનું જોખમ પણ વધી રહ્યું છે.
