ટોચની એઆઈ કંપનીઓ પૈકીની એક એન્થ્રોપિકના સીઈઓ ડારિયો એમોડેઈએ ચિંતાજનક દાવો કર્યો હતો કે હવેના એઆઈ એજન્ટ્સ બાયોલોજિકલ વેપન્સ પણ બનાવી શકે છે. બાયોલોજિકલ વેપન્સ માનવ સહિત સજીવસૃષ્ટિ અને પર્યાવરણ માટે બેહદ ખતરનાક સાબિત થઈ શકે છે. જો એનો દુરુપયોગ શરૂ થાય તો દુનિયામાં મોટી ખુંવારી થઈ શકે છે. એઆઈને એક હદથી વધારે ડેટા આપવાનું સુરક્ષિત નથી. એઆઈ એજન્ટ હવે માણસથી વધારે બુદ્ધિશાળી થઈ રહ્યા હોવાથી તેનો સુરક્ષિત ઉપયોગ કરવો જરૂરી છે.ઓપનએઆઈ, ગૂગલ ડીપમાઈન્ડ, મેટા, એક્સએઆઈ, ડીપસિક જેવી ટોચની એઆઈ કંપનીની હરોળમાં આવતી એક કંપનીનું નામ છે – એન્થ્રોપિક. આ કંપની લાર્જ લેંગ્વેજ મોડલના આધારે કામ કરે છે અને એઆઈના સેફ મોડલ્સ બનાવવાની હિમાયત કરે છે. આ કંપનીના સહસ્થાપક અને સીઈઓ ડારિયો એમોડેઈએ એક ચોંકાવનારો દાવો કર્યો હતો. તેમણે એક લેખમાં કહ્યું કે ત્રણ-સાડા ત્રણ વર્ષ પછી હવે એઆઈ ટેકનોલોજી એવા લેવલે પહોંચી ગઈ છે કે તેનો દુરુપયોગ ભયાનક પરિણામો લાવી શકે છે. જો કોઈ વ્યક્તિ એઆઈને બાયોકેમિકલ વેપન્સ બનાવવા માટેના પ્રોમ્પ્ટ આપે તો કદાચ એમાં સફળતા મળી જશે. અત્યારે એઆઈ પાસે જુદી જુદી વિજ્ઞાન શાખાનું એટલું નોલેજ આવી ચૂક્યું છે કે તેનાથી એ બાયોકેમિકલ વેપન્સ બનાવવાની રીત જણાવી શકે.
જે કામ અત્યાર સુધી વર્ષોની મહેનત અને અથાક મહેનત પછી લેબોરેટરીમાં જ શક્ય હતું એ કામ એઆઈ વિશાળ માહિતી સ્ત્રોતના આધારે ગણતરીની મિનિટોમાં આપી શકે છે. જો આજના એઆઈ એજન્ટ્સને વધારે ડેટા, વધારે કમ્પ્યુટિંંગ પાવર અને બનાવવામાં વધારે સમય આપવામાં આવશે તો એ આવા અશક્ય લાગતા કાર્યો કરી શકે છે. ધારો કે માનવજાતના દુશ્મન સમાન આતંકવાદી જૂથો એઆઈની મદદથી બાયોલોજિકલ વેપન્સ બનાવી નાખે તો શું થાય? તો માનવજાત સામે અસ્તિત્વનું જોખમ આવી પડે.
તેમણે દલીલ કરી હતી કે ૨૦૨૨ના અંતે જ્યારે ચેટજીપીટી નામના ચેટબોટનું આગમન થયું ત્યારે કેટલીય ગરબડો થતી હતી. એક સાધારણ ગણતરીમાં પણ એની ભૂલો સામે આવતી હતી. આજે ભલભલા ગણિતશાસ્ત્રીઓ અચંબામાં મૂકાય જાય એટલી ઝડપે એઆઈ સચોટ ગણતરી કરી આપે છે. લગભગ દરેક ક્ષેત્રમાં આવો અનુભવ થઈ રહ્યો છે. એઆઈ ટેકનોલોજીને માનવજાતે એટલી માહિતી આપી દીધી છે કે તેનો દુરુપયોગ વિધ્વંશક સાબિત થઈ શકે છે. ડારિયો એમોડેઈએ કહ્યું કે એઆઈ પાસે ઈમોશન નથી. તે લાગણીથી વિચારશે નહીં. તેને પ્રોમ્પ્ટ આપવામાં આવશે તો એ તેનું પાલન કરશે. તે ડેટામાંથી એક પેટર્ન શીખે છે. સારા-નરસાનો ભેદ નહી પારખી શકે. જો આપણે તેની આ નબળાઈ સમજી નહીં શકીએ તો મોટો ખતરો મંડરાશે.