OpenAIએ ChatGPTના વિવાદાસ્પદ ‘એડલ્ટ મોડ’ ફીચરને લોન્ચ કરવાનું હાલ માટે ટાળવા માટેનો નિર્ણય લીધો છે. આ નિર્ણય કંપનીને પોતાના કર્મચારીઓ પાસેથી મળેલી વિરોધી પ્રતિક્રિયાઓ અને સલાહકારો તરફથી મળેલી ચેતવણીઓ પછી લેવામાં આવ્યો છે. આ ફીચર માનસિક આરોગ્ય અને બાળકોની સુરક્ષા માટે જોખમ ઊભું કરી શકે છે એ માટે આ નિર્ણય લેવામાં આવ્યો છે. ‘એડલ્ટ મોડ’ દ્વારા યુઝર્સને ચેટબોટ સાથે ઇરોટિક આધારિત વાતચીત કરવાની મંજૂરી મળે છે. OpenAI દ્વારા લાંબા સમયથી આ વિશે પ્રતિબંધ લગાવવામાં આવ્યો હતો, જોકે એમાં હવે મોટો ફેરફાર કરવામાં આવી રહ્યો છે.
સલાહકાર કમિટીએ મેન્ટલ હેલ્થ વિશે જોખમને લઈને ચિંતા વ્યક્ત કરી
AI વેલ-બીંગ માટે OpenAIની સલાહકાર કમિટીએ ચિંતા વ્યક્ત કરી છે કે આ ફીચર લોકોમાં ChatGPT પર ઇમોશનલી નિર્ભર રહેવા માંડે છે અને ટીનેજર પણ એ એડલ્ટ મોડનો ઉપયોગ કરી શકે છે. આ કમિટીમાં સાયકોલોજી અને કોગ્નિટિવ ન્યુરોસાયન્સના એક્સપર્ટનો સમાવેશ કરવામાં આવ્યો છે. જાન્યુઆરીમાં કંપનીના પ્રતિનિધિઓ સાથે થયેલી બેઠક દરમિયાન કમિટીના સભ્યો દ્વારા આ વિશે ચિંતા વ્યક્ત કરવામાં આવી હતી. એક સભ્યએ તો ચેતવણી પણ આપી હતી કે OpenAI અનિચ્છિત રીતે “સેક્સી સુસાઇડ કોચ” જેવી સ્થિતિ ઉભી કરી શકે છે.
ટેકનિકલ ચેલેન્જ અને માર્કેટમાં હરિફાઈને કારણે થયો વિલંબ
OpenAI એ ‘એડલ્ટ મોડ’નું લોન્ચ આ વર્ષના પહેલાં ત્રણ મહિનાની અંદર લોન્ચ કરવાનું નક્કી કર્યું હતું, પરંતુ હવે એને મોડું લોન્ચ કરવામાં આવશે. કંપનીએ જણાવ્યું કે તેનું કારણ અન્ય પ્રોડક્ટને આપવામાં આવી રહેલી પ્રાથમિકતાઓ, કંપનીની અંદર રહેલી એડલ્ટ મોડને લઈને ચિંતાઓ અને ટેકનિકલ મુશ્કેલીઓ છે. કંપની હજી પણ ભવિષ્યમાં આ ફીચરને લોન્ચ કરવાનો ઈરાદો રાખી રહી છે. કંપનીએ જે ચેલેન્જનો સામનો કરવો પડી રહ્યો છે એમાં ઉંમરને વેરિફાઈ કરવાની સિસ્ટમ પણ છે. એમાં કોઈ ટીનેજર એડલ્ટ મોડનો ઉપયોગ કરતું થઈ ગયું તો એ ચિંતાનો વિષય બની શકે છે. આ સિસ્ટમ દ્વારા 12 ટકા કેસમાં ટીનેજરને એડલ્ટ તરીકે ઓળખી હતી અને એનાથી એડલ્ટ ચેટ મોડનો ઉપયોગ તેઓ કરી રહ્યાં હતાં.
એડલ્ટ મોડમાં ઇરોટિક ચેટ્સ મળશે, પણ સ્પષ્ટ તસવીરો નહીં
‘એડલ્ટ મોડ’ જ્યારે લોન્ચ થશે, ત્યારે OpenAI ઇરોટિક વાતચીતને મંજૂરી આપવાનો વિચાર કરી રહી છે. જોકે આ મોડ ફક્ત ટેક્સ્ટ આધારિત હશે. એમાં તસવીરો, અવાજ અથવા વિડિયો જનરેશન પર પ્રતિબંધ રહેશે. AI આધારિત ઇરોટિકા સાથે કેટલાક જોખમો પણ જોડાયેલા છે, જેમ કે
• ચેટબોટનો વ્યસન જેવી રીતે ઉપયોગ
• AI પર સંબંધોને ખૂબ જ નિર્ભર રહેવું.
આમ છતાં OpenAIના પ્રવક્તાએ જણાવ્યું કે કંપની એડલ્ટ થીમ આધારિત ટેક્સ્ટ ચેટ્સને મંજૂરી આપવા ઈચ્છે છે. તેમણે આ ફીચરને પોર્નોગ્રાફી નહીં પરંતુ હળવા પ્રકારનું ઇરોટિક લેખન તરીકે વર્ણવ્યું છે. તેમણે ઉમેર્યું કે મોડેલોને યુઝર્સ સાથે એકતરફી ભાવનાત્મક સંબંધો ન બાંધે એ માટે તાલીમ આપવામાં આવી રહી છે.AIમાં ઇરોટિકાને લઈને OpenAIએ 2021માં બનાવ્યા હતા સેફ્ટી નિયમ
OpenAIમાં AI ઇરોટિકા અંગેની આંતરિક ચર્ચા 2021થી ચાલી રહી છે. એ સમયે કંપનીના અધિકારીઓ ચિંતિત થયા હતા કારણ કે તેના એક ડેવલપર ગ્રાહકની AI Dungeon નામની ટેક્સ્ટ આધારિત એડવેન્ચર ગેમમાં બહુ મોટો ટ્રાફિકનો નેચર સેક્સ્યુઅલ હતો. કેટલાક કેસમાં AI યુઝર દ્વારા માંગ્યા વગર પણ વાતચીતને વાયલન્સ અને સેક્સ્યુઅલ વિષયો તરફ દોરી જતું હતું. આ ઘટનાઓ પછી OpenAIએ પોતાની પ્રથમ સુરક્ષા નીતિઓ બનાવવી શરૂ કરી હતી, જેમાં ઇરોટિક કન્ટેન્ટ પર પ્રતિબંધ પણ સામેલ હતો.