એપલે Grok AI એપને તેના App Storeમાંથી દૂર કરવાની ધમકી આપી છે. આ ધમકી આપવા પાછળનું કારણ ઇલોન મસ્કની xAI કંપનીનું Grok AIનો ઉપયોગ કરીને યુઝર્સ મહિલાઓ અને બાળકોના સેક્સ્યુઅલ ડીપફેક બનાવી રહ્યા છે. એક રિપોર્ટ મુજબ એપલે આ વિશે અમેરિકાના સેનેટરોને મોકલેલા પત્રમાં જણાવ્યું હતું. સોશિયલ મીડિયા પ્લેટફોર્મ પર બિન-સંમતિથી બનાવવામાં આવતા સેક્સ્યુઅલ કન્ટેન્ટ અંગે વધતી ચિંતાઓ વચ્ચે આ પગલું લેવામાં આવ્યું હતું. આથી એપલે Grok AIને ધમકી આપી છે જેથી તેઓ જલદી તેમના મોડલમાં સુધારા કરી શકે.
અમેરિકન સેનેટરોની માંગ: X અને Grokને સસ્પેન્ડ કરો
પરવાનગી વગર બનાવવામાં આવતી સેક્સ્યુઅલ કન્ટેન્ટને લઈને વિવાદ વધતા એપલને તેના App Storeમાંથી X અને Grok એપને દૂર કરવાની માંગ ઉઠી છે. ડેમોક્રેટિક સેનેટરોના એક જૂથે એપલના CEO Tim Cookને પત્ર લખીને બંને એપ્સને સસ્પેન્ડ કરવાની માંગ કરી હતી, કારણ કે તેના પર બાળકોના સેક્સ્યુઅલ કન્ટેન્ટ સંબંધિત સામગ્રી ફેલાવવાનો આરોપ છે. તેના જવાબમાં એપલે આંતરિક તપાસમાં બંને એપ્સને તેની ગાઇડલાઇનનું ઉલ્લંઘન કરતી ગણાવી હતી.
એકથી વધુ રાઉન્ડ પછી એપ્સને મંજૂરી
વિવાદ બાદ એપલે xAI ટીમ સાથે સંપર્ક કરીને કન્ટેન્ટ મોડરેશન સુધારવા માટે સ્પષ્ટ યોજના માંગી હતી. ડેવલપર્સે Grok માટે અપડેટ સબમિટ કર્યું, જેને શરૂઆતમાં એપલે નકારી દીધું કારણ કે ફેરફારો પૂરતા નહોતા. જોકે, બંને એપ્સ માટે બીજા રાઉન્ડની સબમિશન બાદ એપલે ફેરફારો સ્વીકાર્યા, પરંતુ જણાવ્યું કે Grok હજુ પણ સંપૂર્ણપણે નિયમોને અનુરૂપ નથી.
App Storeમાંથી દૂર કરવાની ચેતવણી
અમેરિકન સેનેટરોને મોકલેલા પત્રમાં એપલે જણાવ્યું કે તેમણે Grokની સબમિશન નકારી અને ડેવલપરને ચેતવણી આપી કે જો જરૂરી ફેરફારો નહીં થાય તો એપને App Storeમાંથી દૂર કરી શકાય છે. ત્યારબાદ, વધુ સુધારાઓ અને ચર્ચા બાદ એપલે નોંધ્યું કે Grokમાં નોંધપાત્ર સુધારો થયો છે અને તેની નવીનતમ સબમિશનને મંજૂરી આપી છે.
વિવાદ વચ્ચે Xએ શું કહ્યું?
વિવાદ વચ્ચે Xએ તેના સેફ્ટી હેન્ડલ મારફતે પોતાનો બચાવ કર્યો છે. Xએ જણાવ્યું કે તે બિન-સંમતિથી બનાવાયેલા અશ્લીલ ડીપફેક્સ બનાવવા પર કડક પ્રતિબંધ મૂકે છે અને તેના ટૂલ્સનો ઉપયોગ કરીને કોઈ વ્યક્તિને વર્ચ્યુઅલી કપડાં વગર દેખાડવાની મંજૂરી નથી આપતું. Xના જણાવ્યા મુજબ xAI પાસે આવા ખોટી રીતે ઉપયોગ કરતાં લોકોને અટકાવવા માટે સતત મોનીટરીંગ અને પ્રોમ્પ્ટ ફિલ્ટર જેવા મજબૂત સુરક્ષા ઉપાયો છે.