સોશિયલ મીડિયા પર નફરતી કન્ટેન્ટ વધવાનું જોખમ: ભાષાકીય જટિલતાને કારણે મશીન લર્નિંગ સિસ્ટમ્સ પડી રહી છે નબળી
સોશિયલ મીડિયાના યુગમાં નફરત ફેલાવતી સામગ્રી એટલે કે હેટ સ્પીચ (Hate Speech) ની ઓળખ કરવી અને તેને પ્લેટફોર્મ પરથી હટાવવી એ તમામ ટેકનોલોજી કંપનીઓ માટે સૌથી મોટો પડકાર બની ગયો છે. ભારત જેવા વિશાળ દેશમાં મેટા (Meta) ના પોતાના તાજેતરના આંકડા આ ચિંતાજનક સ્થિતિને વધુ ગંભીરતાથી રજૂ કરે છે. રિપોર્ટ અનુસાર, ભારતમાં ઇન્સ્ટાગ્રામ (Instagram) પર હેટ સ્પીચને સ્વયંસંચાલિત રીતે (Proactively) ઓળખવાની ક્ષમતામાં છેલ્લા એક વર્ષ દરમિયાન ભારે ઘટાડો નોંધાયો છે.
શું છે પ્રોએક્ટિવ રેટ (Proactive Rate)?
પ્રોએક્ટિવ ડિટેક્શન રેટ એટલે કે કોઈપણ વાંધાજનક કે નફરત ફેલાવતી પોસ્ટ અંગે અન્ય યુઝર્સ દ્વારા રિપોર્ટ કે ફરિયાદ કરવામાં આવે તે પહેલાં જ પ્લેટફોર્મની આર્ટિફિશિયલ ઈન્ટેલિજન્સ (AI) ટેકનોલોજી તેને સ્વયં ઓળખી લે અને ફ્લેગ કરે.
મેટાના કમ્યુનિટી સ્ટાન્ડર્ડ્સ એન્ફોર્સમેન્ટ રિપોર્ટ અનુસાર, વૈશ્વિક સ્તરે ઇન્સ્ટાગ્રામ પર હેટ સ્પીચ માટે પ્રોએક્ટિવ રેટ અંદાજે 90 ટકા જેટલો ઊંચો રહે છે. પરંતુ ભારતીય સંદર્ભમાં આ ચિત્ર તદ્દન અલગ અને ચિંતાજનક છે. જાન્યુઆરીથી જૂન 2026 દરમિયાન ભારતમાં આ દર ઘટીને 30 ટકાથી પણ નીચે આવી ગયો છે. જૂન 2025 માં જે રેટ 82 ટકા હતો, તે જૂન 2026 માં ઘટીને માત્ર 25 ટકા જેટલો જ રહી ગયો છે. આનો અર્થ એ થયો કે મોટાભાગની વાંધાજનક સામગ્રી હવે સિસ્ટમ દ્વારા નહીં પણ યુઝર્સની ફરિયાદો બાદ સામે આવી રહી છે.
ભારતની ભાષાકીય વિવિધતા સૌથી મોટો પડકાર
ભારત એ મેટા માટે વિશ્વના સૌથી મોટા યુઝર બેઝ ધરાવતા બજારોમાંનું એક છે. આટલા મોટા બજારમાં મોડરેશન સિસ્ટમની નિષ્ફળતા કરોડો યુઝર્સને અસર કરી શકે છે. ઘટાડા પાછળનું મુખ્ય કારણ ભારતની સાંસ્કૃતિક અને ભાષાકીય વિવિધતા છે:
પ્રાદેશિક ભાષાઓ અને સ્લેંગ: ભારતમાં ડઝનબંધ ભાષાઓ અને સેંકડો સ્થાનિક બોલીઓ (Slang) વપરાય છે.
સંદર્ભ બદલાવ: સ્થાનિક શબ્દોના અર્થ અને સંદર્ભ સ્થળ મુજબ બદલાઈ જાય છે, જેને વૈશ્વિક ધોરણે ડિઝાઈન કરાયેલા ઓટોમેટેડ સિસ્ટમ્સ સહેલાઈથી સમજી શકતા નથી.
મશીન લર્નિંગ અને AI તાલીમની જરૂરિયાત
મેટાએ કન્ટેન્ટ મોડરેશન માટે એઆઈ અને મશીન લર્નિંગ પર નિર્ભરતા વધારી છે. પરંતુ હેટ સ્પીચ હંમેશા સીધા કે સ્પષ્ટ શબ્દોમાં હોતી નથી. ઘણીવાર સંકેતો, ઇમોજી, મીમ્સ કે વિડિયોના માધ્યમથી નફરત ફેલાવવામાં આવે છે.
ઓટોમેટેડ સિસ્ટમને ભારતીય ભાષાઓ અને તેના બદલાતા સંદર્ભો અનુસાર સતત તાલીમ (Training) આપવી જરૂરી છે. વૈશ્વિક અને ભારતીય આંકડા વચ્ચેનો આ મોટો તફાવત એ સવાલ ઊભો કરે છે કે શું ભારત જેવા ભાષાકીય રીતે જટિલ બજાર માટે મેટા પાસે પૂરતા સ્થાનિક સંસાધનો અને તાંત્રિક ક્ષમતા ઉપલબ્ધ છે કે નહીં.
