હાઈકોર્ટ વચગાળાનો હુકમ પસાર કરી શકે:AI જનરેટેડ ડીપ ફેક કન્ટેન્ટ ઉતારવા સરકારની સૂચનાઓને પ્લેટફોર્મ પ્રોવાઇડર માનતા નથી, કોર્ટનો પ્રશ્ન કે તેમની સામે પગલાં લેવા શું પ્રાવધાન?

ગુજરાત હાઇકોર્ટમાં અમદાવાદથી અરજદાર વિકાસ.વિ.નાયરે એડવોકેટ અમિત પંચાલ દ્વારા AI અને ડીપફેકને લઈને જાહેર હિતની અરજી દાખલ કરી છે. જેમાં આજે ચીફ જજની બેન્ચ સમક્ષ વધુ સુનવણી યોજાઈ હતી. જેમાં કોર્ટના હુકમ અનુસાર રાજ્ય સરકારે કેટલાક સૂચનો અને કેન્દ્ર સરકારના ગૃહ વિભાગે એફિડેવિટ ફાઇલ કરી હતી. મૂળ મુદ્દો એ જ હતો કે, પ્લેટફોર્મ પ્રોવાઇડર કંપનીઓને સૂચના આપવા છત્તા કન્ટેન્ટ દૂર કરતી નથી અને મોટાભાગે કહે છે કે, URL ઉપલબ્ધ નથી. બાળકો પણ AIથી બનેલા વીડિયો જુએ છે. લોકોને પણ સમજતા સમય લાગે છે કે, આ AI જનરેટેડ વીડિયો છે. 2026માં પ્લેટફોર્મ પ્રોવાઇડરને 107 કન્ટેન્ટ દૂર કરવા કહ્યું હતું કેન્દ્ર સરકારે કહ્યું હતું કે, તેઓએ સહયોગ પ્લેટફોર્મ બનાવ્યું છે, જ્યાં તમામ પ્લેટફોર્મ પ્રોવાઇડર જોડાયેલા છે. તેમને વાંધાજનક AI જનરેટેડ કન્ટેન્ટ ઉતારવા માટે જણાવવામાં આવે છે. કોર્ટે કહ્યું હતું કે પ્લેટફોર્મ દ્વારા આવા વિડિઓ કોઈ ઓથેન્ટિકેશન વગર મૂકી શકે નહીં, જો ઓથેન્ટિકેશનની વ્યવસ્થા ના હોય તો પ્લેટફોર્મ ઉપર આવતી ફરિયાદો ધ્યાને લેવી જોઈએ. રાજ્ય સરકાર વતી જણાવાયું હતું કે, જાન્યુઆરી, 2026માં પ્લેટફોર્મ પ્રોવાઇડરને 107 કન્ટેન્ટ દૂર કરવા કહ્યું છત્તા તે પ્લેટફોર્મ ઉપર છે. વિદેશમાંથી પણ ફરિયાદના ફોન આવે છે, લોકોની ઇમેજ ખરાબ થઈ રહી છે. ડીપ ફેક વીડિયોને તો ઓળખવો અઘરો છે. કેન્દ્રના ગૃહ વિભાગના જણાવે મુજબ નિયમો ચાલુ વર્ષે 2026 માં બન્યા છે. જેમાં ફેક વિડિઓ ઉતારવા પ્લેટફોર્મને સૂચનાઓ આપવામાં આવે છે. કોર્ટે પૂછ્યું હતું કે, જો પ્લેટફોર્મ પ્રોવાઇડર ના માને તો શું કરશો ? કેન્દ્ર સરકારે કહ્યું હતું કે નિર્દેશ ઉપર ત્રણ કલાકમાં કન્ટેન્ટ હટાવવુ પડે, પહેલા આ સમય 36 કલાકનો હતો. કોર્ટે ફરી પૂછ્યું હતું કે જો તેઓ કન્ટેન્ટ ના ઉતારે તો શું? આરોપ સાબિત કરવા કોર્ટ ટ્રાયલની જરૂર પડે એમાં ટાઈમ જોઈએ સરકારી વકીલે કહ્યું હતું કે, IT એક્ટ 66C, 66D અને 66E અંતર્ગત કાર્યવાહી કરવામાં આવે છે. જેથી કોર્ટે કહ્યું હતું કે, તેના પ્રાવધાન તો ખોટું કન્ટેન્ટ ચઢાવનાર સામે છે પણ પ્લેટફોર્મ માટે શું? તમે શું કરી શકો? તમે નિર્દેશ આપી શકો પણ નિર્દેશ ન માને તો શું? કેન્દ્રએ કહ્યું હતું કે, રાજ્ય વિરુદ્ધના ગુન્હાઓ માટે સખત કાર્યવાહીના પ્રાવધાન લાગુ છે પણ પ્રાઇવેટ ફરિયાદ માટે નહીં. જો પ્લેટફોર્મ પ્રોવાઇડર AI જનરેટેડ વાંધાજનક કન્ટેન્ટ જાતે દૂર ન કરે અથવા સૂચના બાદ ભી દૂર ના કરે તો સહ આરોપી બને છે. જોકે, કોર્ટે કહ્યું હતું કે આરોપ સાબિત કરવા કોર્ટ ટ્રાયલની જરૂર પડે એમાં ટાઈમ જોઈએ, એના માટેનો સમય નથી. એક હજાર ફરિયાદમાંથી માત્ર 14 ફરિયાદનો જ પ્લેટફોર્મ પ્રોવાઇડરે જવાબ આપ્યો હતો કોર્ટે કહ્યું હતું કે, સૂચના આપ્યા બાદ ત્રણ કલાકનો સમય કન્ટેન્ટ ઉતારવા માટે વધુ કહેવાય. તુરંત થતી હાનિ કેવી રીતે અટકાવી શકાય? તમે જાતે પ્લેટફોર્મ ઉપરથી કન્ટેન્ટ ઉતારી શકો તેમ નથી. તુરંતના પગલા લેવા માટે શું પ્રાવધાન છે? રાજ્ય સરકાર વતી કહેવાયું હતું કે, એક હજાર ફરિયાદમાંથી માત્ર 14 ફરિયાદનો જ પ્લેટફોર્મ પ્રોવાઇડરે જવાબ આપ્યો હતો. વળી X સહયોગ પોર્ટલ સાથે સંકળાયેલ નથી. આથી એક યોગ્ય મિકેનિઝમ બનાવવાની જરૂર છે. સોશિયલ મીડિયા જ્યારે IT મંત્રાલય અંતર્ગત આવે છે ત્યારે હવે કોર્ટ પ્લેટફોર્મ પ્રોવાઇડરને નિયમો પાળવા હુકમ કરી શકે છે. ગત સુનવણીમાં રજૂઆત કરાઈ હતી કે બંધારણીય હોદ્દેદારોના પણ મોટા પાયે AI જનરેટેડ અને ડિપફેક વીડિયો તેમજ ફોટા બની રહ્યા છે. તેનાથી પદ અને પ્રતિષ્ઠામાં ઘટાડો થાય છે અને લોકોનો વિશ્વાસ ઘટે છે. ત્યારે IT એક્ટ અંતર્ગત રાજ્ય સરકારે તેની ઉપર નિયમો બનાવવા જરૂરી છે. ઓફિસિયલ ગેઝેટ અને નોટોફિકેશન દ્વારા આવા નિયમો બની શકે છે. IT એક્ટ પબ્લિક એક્સેસ બ્લોક કરવા માટેની સત્તા આપે એડવોકેટ જનરલે જણાવ્યું હતું કે, AI જનરેટેડ ખોટા વીડિયોને દૂર કરવા ઓથોરિટીએ મીડીયમને જણાવવું પડે છે. વળી આવા નકલી ફોટા અને વીડિયો ખોટા IDથી ચઢાવ્યા હોય તો તેને ઓળખી કાઢવો મુશ્કેલ બને છે. IT એક્ટની કલમ 69A આ બાબતની જોગવાઈ કરે છે. જે પબ્લિક એક્સેસ બ્લોક કરવા માટેની સત્તા આપે છે. સામાન્ય રીતે દેશની સલામતી, આંતરરાષ્ટ્રીય મિત્રતા, પબ્લિક ઓર્ડર વગેરેને લઈને પ્લેટફોર્મ પ્રોવાઇડરને કન્ટેન્ટ બ્લોક કરવા સૂચના આપી શકાય છે. IT એક્ટ અંતર્ગત કેન્દ્ર અને રાજ્ય સરકાર તેની ઉપર નિયમો બનાવી શકે છે. ફેક કન્ટેન્ટને દૂર કરવામાં પ્લેટફોર્મ પ્રોવાઈડર 36 કલાકનો સમય લે છે અરજદારને રાજ્યના સાયબર ડિપાર્ટમેન્ટ તરફથી ઇમેઇલ મળ્યો હતો કે, જો તેઓને આવી કોઈ ફરિયાદ મળે તો તેઓ પગલા લે છે. કોર્ટે કહ્યું હતું કે, નકલી ફોટો અને વીડિયો દ્વારા વ્યક્તિને ખરાબ ચીતરવામાં આવે છે. બાળકો અને માનવતા વિરુદ્ધ કન્ટેન્ટ સોશિયલ મીડિયા પ્લેટફોર્મ પર ઉપલબ્ધ થતા થયા છે. લોકોની ઓળખી ચોરી કરવામાં આવે છે, તેમની ગોપનીયતાનો ભંગ કરવામાં આવે છે. તેમજ અશ્લીલ અને સેક્સ્યુઅલ કન્ટેન્ટ બનાવીને સોશિયલ મીડિયા ઉપર ચઢાવવામાં આવે છે. પરંતુ તેને દૂર કરવાની સૂચના આપતા પ્લેટફોર્મ પ્રોવાઇડર 36 કલાકનો સમય લે છે. એડવોકેટ જનરલે જણાવ્યું હતું કે, AI અને ડીપફેક મામલે પ્લેટફોર્મ પ્રોવાઇડરને લઈને ચીન કડક કાયદાઓ લાવ્યું છે. જો પ્લેટફોર્મ પ્રોવાઇડરને કન્ટેન્ટ દૂર કરવા રજૂઆત કરવામાં આવે તો તેઓ જવાબ નથી આપતા. હાઇકોર્ટે કહ્યું હતું કે, પ્લેટફોર્મ પ્રોવાઇડર સમક્ષ વાંધો ઉઠાવવાથી તેઓ જવાબ આપે છે અથવા નથી પણ આપતા કારણકે તે વિવાદાસ્પદ પોસ્ટ ઉપર સતત લાઈક્સ મળતી હોય છે. જેથી તેને તેઓ પોતાના પ્લેટફોર્મ ઉપરથી નીચે નથી ઉતારતા. ગુજરાત હાઇકોર્ટ લાઈવ સ્ટ્રીમિંગ રૂલમાં કોપીરાઇટ હોવા છતાં તેના વીડિયો સોશિયલ મીડિયા પ્લેટફોર્મ પર વાયરલ થાય છે, જે અંગે પ્લેટફોર્મને જાણ કરવા છતાં તે વીડિયોને દૂર કરાતા નથી. વળી આવા કેટલાય નકલી વીડિયો અને ફોટા બનતા રહે છે, જેને રોકવા ખૂબ જ અઘરા છે. તેને રિયલ ટાઈમ જ પ્લેટફોર્મ પરથી ઉતારવા પડે તો જ તેને નાથી શકાય તેમ છે. અરજદારે જણાવ્યું હતું કે, AIથી તૈયાર કરાયેલું ટ્રાયલ કોર્ટનું એવું જજમેન્ટ સમક્ષ મૂકવામાં આવ્યું હતું, જે હકીકતમાં અસ્તિત્વ જ ધરાવતું નહોતું.