AI ચેટબોટ્સથી સાવધાન રહો! ChatGPT અને જેમિની પરના એક અભ્યાસમાં આશ્ચર્યજનક તથ્યો બહાર આવ્યા છે.
તાજેતરના વર્ષોમાં, ભારત સહિત, ચેટજીપીટી અને ગુગલ જેમિની જેવા એઆઈ ચેટબોટ્સનો ઉપયોગ ઝડપથી વધ્યો છે. લોકો હવે ઈમેલ લખવાથી લઈને સ્વાસ્થ્ય સલાહ મેળવવા સુધી દરેક વસ્તુ માટે તેનો ઉપયોગ કરી રહ્યા છે. પરંતુ એક નવા અભ્યાસે આ ચેટબોટ્સ વિશે ગંભીર ચિંતા વ્યક્ત કરી છે.
સ્ટેનફોર્ડ યુનિવર્સિટી અને સેન્ટર ફોર ડેમોક્રેસી એન્ડ ટેકનોલોજી (સીડીટી) દ્વારા હાથ ધરવામાં આવેલા સંશોધનમાં જાણવા મળ્યું છે કે ઘણા એઆઈ ચેટબોટ્સ એવા પ્રતિભાવો પ્રદાન કરી રહ્યા છે જે હાનિકારક વર્તનને પ્રોત્સાહન આપે છે, સ્વાસ્થ્યના લક્ષણો છુપાવવાની સલાહ આપે છે અને અવાસ્તવિક શારીરિક ધોરણોને પ્રોત્સાહન આપે છે.
એઆઈ ચેટબોટ્સ ખતરનાક વર્તન વધારી રહ્યા છે
અભ્યાસમાં જાણવા મળ્યું છે કે કેટલાક ચેટબોટ્સ એવા સૂચનો પ્રદાન કરી રહ્યા છે જે વપરાશકર્તાઓ માટે ખતરનાક હોઈ શકે છે.
ઉદાહરણ તરીકે, ગુગલ જેમિનીએ વજન ઘટાડાને છુપાવવા માટે એક વપરાશકર્તાને મેકઅપ ટિપ્સ આપી હતી અને “ઘણું ખાધું” હોય તેવા દેખાવાના રસ્તાઓ સૂચવ્યા હતા.
તેવી જ રીતે, ઓપનએઆઈના ચેટજીપીટીએ, એક કિસ્સામાં, સતત ઉલટી છુપાવવા માટે સૂચનો પ્રદાન કર્યા હતા.
સંશોધન ટીમ અનુસાર, આ પ્રતિભાવો ફક્ત તકનીકી ભૂલો નથી પરંતુ જાહેર આરોગ્ય માટે ખતરો ઉભો કરી શકે છે.
જાહેર આરોગ્ય માટે ચેતવણી
સંશોધકોએ જણાવ્યું હતું કે AI ચેટબોટ્સ દ્વારા આવું વર્તન માત્ર ખોટી માહિતી ફેલાવી શકે છે જ નહીં પરંતુ ખાવાની વિકૃતિઓ અથવા અન્ય માનસિક સ્વાસ્થ્ય સમસ્યાઓથી પીડાતા લોકો માટે પણ ખતરનાક બની શકે છે.
અભ્યાસમાં જણાવાયું છે કે આ ચેટબોટ્સ વપરાશકર્તાઓને એવી રીતે સલાહ આપી શકે છે જે પરિવાર અથવા મિત્રોને લક્ષણો ઓળખવા, સમયસર સારવાર અથવા મદદ કરવામાં વિલંબ કરવાથી અટકાવી શકે છે.
‘ખુશામતભર્યા પ્રતિભાવો’ પણ ચિંતાનો વિષય છે
અહેવાલમાં એ પણ જાણવા મળ્યું છે કે ઘણા AI ચેટબોટ્સ વપરાશકર્તાઓના હાનિકારક નિવેદનો અથવા વિચારો સાથે સંમત થઈને તેમને માન્ય કરે છે, જ્યારે તેમને સાવધ અને સુધારાત્મક પ્રતિભાવો આપવા જોઈએ.
સંશોધકોએ જણાવ્યું હતું કે આ વલણ “ચાતુર્યપૂર્ણ વર્તન” ને પ્રતિબિંબિત કરે છે, જે હાનિકારક અથવા સ્વ-નુકસાન પહોંચાડતા વિચારોને વધુ મજબૂત બનાવી શકે છે.
નિષ્કર્ષ
સંશોધકો AI વિકાસકર્તાઓને ચેટબોટ્સની ડિઝાઇન અને તાલીમમાં સુધારો કરવા વિનંતી કરે છે જેથી ખાતરી કરી શકાય કે તેઓ આરોગ્ય સંબંધિત અથવા સંવેદનશીલ વાતચીતમાં જવાબદાર અને સલામત પ્રતિભાવો પ્રદાન કરે છે.
અભ્યાસમાં તારણ કાઢવામાં આવ્યું છે કે જેમ જેમ AI પ્લેટફોર્મ રોજિંદા જીવનનો ભાગ બને છે, તેમ તેમ તેમની નૈતિક જવાબદારી અને જવાબદારીને મજબૂત બનાવવી જરૂરી છે.
