OpenAI રિપોર્ટ: ચેટજીપીટી વપરાશકર્તાઓમાં ઉન્માદ અને આત્મહત્યાના ચિહ્નો જોવા મળ્યા
OpenAI એ તાજેતરમાં એક નવો અહેવાલ બહાર પાડ્યો છે, જેમાં ખુલાસો થયો છે કે કેટલાક ChatGPT વપરાશકર્તાઓમાં ઉન્માદ, મનોવિકૃતિ (ભ્રમ) અને આત્મહત્યાના વિચારોના ચિહ્નો જોવા મળ્યા છે.
કંપનીના જણાવ્યા અનુસાર, કોઈપણ અઠવાડિયામાં લગભગ 0.07% સક્રિય વપરાશકર્તાઓમાં આ લક્ષણો જોવા મળ્યા હતા. OpenAI કહે છે કે તેનો AI ચેટબોટ આ સંવેદનશીલ વાતચીતોને ઓળખે છે અને સહાનુભૂતિપૂર્વક પ્રતિભાવ આપે છે.
દુર્લભ પરંતુ ગંભીર કેસ
જોકે OpenAI કહે છે કે આ કિસ્સાઓ અત્યંત દુર્લભ છે, નિષ્ણાતો માને છે કે ChatGPT ના 800 મિલિયન સાપ્તાહિક વપરાશકર્તાઓમાં આ સંખ્યા લાખો સુધી પહોંચી શકે છે.
OpenAI એ જણાવ્યું હતું કે તેણે 60 દેશોમાં 170 થી વધુ માનસિક સ્વાસ્થ્ય નિષ્ણાતોનું વૈશ્વિક નેટવર્ક વિકસાવ્યું છે. આ નિષ્ણાતો ChatGPT ના પ્રતિભાવોનું નિરીક્ષણ કરે છે અને એવા પ્રતિભાવો વિકસાવે છે જે વપરાશકર્તાઓને વાસ્તવિક દુનિયામાં મદદ લેવા માટે પ્રોત્સાહિત કરે છે.
સુરક્ષા અપડેટ્સ અને AI પ્રતિભાવ
OpenAI એ તાજેતરમાં ChatGPT માં અપડેટ્સ કર્યા છે જે ભ્રમ, ઉન્માદ અને સ્વ-નુકસાનના સંકેતો પ્રત્યે સંવેદનશીલતાથી પ્રતિભાવ આપે છે. જો AI માનસિક તકલીફના કોઈપણ ચિહ્નો શોધે છે તો તે હવે વપરાશકર્તાઓને સુરક્ષિત મોડેલ પર રીડાયરેક્ટ કરી શકે છે.
કાનૂની તપાસ અને વિવાદો
OpenAI હાલમાં અનેક કાનૂની તપાસ અને મુકદ્દમાઓનો સામનો કરી રહ્યું છે. કેલિફોર્નિયામાં એક દંપતીએ OpenAI પર દાવો કર્યો છે, જેમાં આરોપ લગાવવામાં આવ્યો છે કે ChatGPT એ તેમના 16 વર્ષના પુત્રને આત્મહત્યા માટે ઉશ્કેર્યો હતો.
તેવી જ રીતે, કનેક્ટિકટમાં એક હત્યા-આત્મહત્યા શંકાસ્પદે તેની ChatGPT વાતચીતો ઓનલાઈન શેર કરી, જેનાથી તેના ભ્રમણાઓમાં વધારો થયો.
નિષ્ણાતો ચેતવણી આપે છે
ડૉ. જેસન નાગાટા (યુનિવર્સિટી ઓફ કેલિફોર્નિયા, સાન ફ્રાન્સિસ્કો): “0.07% એક નાનો આંકડો લાગે છે, પરંતુ લાખો વપરાશકર્તાઓની સરખામણીમાં આ સંખ્યા ગંભીર છે. AI માનસિક સ્વાસ્થ્ય સહાયને વધારી શકે છે, પરંતુ તેની મર્યાદાઓને સમજવી મહત્વપૂર્ણ છે.”
પ્રોફેસર રોબિન ફેલ્ડમેન (AI લો એન્ડ ઇનોવેશન ઇન્સ્ટિટ્યૂટ): “AI ચેટબોટ્સ એવી વાસ્તવિકતા રજૂ કરી રહ્યા છે જે ખરેખર અસ્તિત્વમાં નથી. સ્ક્રીન પર ચેતવણી દર્શાવવી પૂરતી નથી; માનસિક કટોકટીનો અનુભવ કરી રહેલી વ્યક્તિ તેને સમજી કે સ્વીકારી શકશે નહીં.”
