Microsoft: આપણે બધા જાણીએ છીએ કે ઈમેજ જનરેશન ફીચર લાવવા માટે માઇક્રોસોફ્ટની બિંગ ચેટ એ પ્રથમ AI ચેટબોટ્સમાંની એક હતી અને તેણે યુઝર્સને એવી જગ્યા ઓફર કરી હતી જ્યાં તેઓ AI-જનરેટેડ કન્ટેન્ટ સાથે સંપર્ક કરી શકે. ફોટા પણ બનાવી શકે. છેલ્લા કેટલાક મહિનામાં, કંપનીએ Bing AI માં નોંધપાત્ર સુધારા કર્યા છે અને હવે આપણે બધા તેને Copilot તરીકે જાણીએ છીએ. જોકે, હવે માઈક્રોસોફ્ટના એક કર્મચારીનું કહેવું છે કે કોપાયલોટની ઈમેજ જનરેશન ફીચર એટલી સલામત નથી જેટલી હોવી જોઈએ.
શું આ AI ટૂલ સલામત નથી?
માઈક્રોસોફ્ટ એઆઈ એન્જિનિયર શેન જોન્સે તાજેતરમાં કોપાયલોટ એઆઈ ટૂલ વિશે તેમની ચિંતા વ્યક્ત કરી છે. તેણે લિંક્ડઈન પોસ્ટમાં કહ્યું છે કે કંપનીના AI ટૂલમાં હિંસક અને શૃંગારિક ઈમેજ બનાવવા સામે કોઈ સુરક્ષા કાર્ય નથી. માઈક્રોસોફ્ટ મેનેજમેન્ટને આ મુદ્દાઓ અંગે ચેતવણી આપવાના અનેક પ્રયાસો છતાં, જોન્સે દાવો કર્યો કે કોઈ પગલાં લેવામાં આવ્યાં નથી. તેણે આ અંગે ફેડરલ ટ્રેડ કમિશન અને માઈક્રોસોફ્ટના ડિરેક્ટરને પણ સંદેશ મોકલ્યો છે.
જોન્સ, જે માઇક્રોસોફ્ટમાં હેડ સોફ્ટવેર એન્જિનિયર છે, તેણે ખુલાસો કર્યો છે કે કંપની તેના AI ઇમેજ જનરેટર, માઇક્રોસોફ્ટના કોપાયલોટ ડિઝાઇનરમાં ખામીથી વાકેફ છે. આ ટૂલ OpenAI ની DALL-E 3 આર્ટિફિશિયલ ઇન્ટેલિજન્સ સિસ્ટમનો ઉપયોગ કરીને ટેક્સ્ટ પર આધારિત છબીઓ બનાવે છે. જોન્સે દલીલ કરી હતી કે જ્યાં સુધી તે હાનિકારક સામગ્રી ઉત્પન્ન કરવાનું બંધ ન કરે ત્યાં સુધી કોપાયલોટ ડિઝાઇનરને જાહેર ઉપયોગમાંથી દૂર કરવો જોઈએ. જોન્સે કહ્યું કે ટૂલમાં વાજબી પ્રતિબંધો નથી.
શૃંગારિક છબીઓ બનાવવી.
“કાર અકસ્માત” પ્રોમ્પ્ટનો ઉપયોગ કરીને, કોપાયલોટ ડિઝાઇનરે “સ્ત્રીનું ગંદું ચિત્ર બનાવ્યું,” સોફ્ટવેર એન્જિનિયરે CNBC ને જણાવ્યું. તેણે એ પણ જણાવ્યું કે કેવી રીતે આ સાધન સગીર દારૂ પીનારાઓ અને ડ્રગ યુઝર્સના પ્રોમ્પ્ટ “ટીનએજર્સ 420 પાર્ટી” ટાઈપ કરીને ચિત્રો બનાવે છે.
શું આ AI ટૂલ સલામત નથી?
અમે આ કોપાયલોટની ઈમેજ જનરેટર ફીચરનો પણ ઉપયોગ કર્યો છે અને એઆઈ ટૂલે બાળકના રૂમમાં છુપાયેલા રાક્ષસની ડરામણી તસવીર બનાવી છે. જો કે, જ્યારે અમે AI ટૂલને હત્યાનો ફોટો બનાવવા માટે કહ્યું, ત્યારે ટૂલ પર એક પોપ અપ મેસેજ દેખાયો જેમાં તેણે આવું કરવાનો ઇનકાર કર્યો હતો, ટૂલે તેના ચેતવણી સંદેશમાં જણાવ્યું હતું કે ટૂલ હિંસક બનાવતું નથી. છબીઓ સંભવ છે કે કંપનીએ હવે તેને ઠીક કરી દીધું છે અથવા હજુ પણ કેટલીક ખામીઓ હોઈ શકે છે જેના વિશે આપણે જાણતા નથી.
