Anthropic Claude AI: આર્ટિફિશિયલ ઇન્ટેલિજન્સ ક્ષેત્રની જાણીતી કંપની 'એન્થ્રોપિક'એ એક અહેવાલમાં મોટો ખુલાસો કર્યો છે કે, યમનમાં સક્રિય હૂથી બળવાખોરો સાથે જોડાયેલા શસ્ત્ર એન્જિનિયરો મિસાઇલો અને ગાઇડેડ રોકેટ માટે ગાઇડન્સ સોફ્ટવેર બનાવવા માટે તેના 'Claude' AI મોડેલનો ઉપયોગ કરી રહ્યા હતા. કંપની દ્વારા જારી કરવામાં આવેલા અહેવાલ મુજબ ચીન, રશિયા અને યમન જેવા વિસ્તારોમાંથી ચલાવવામાં આવતા છ જેટલા એવા ઓપરેશન્સને નિષ્ફળ બનાવવામાં આવ્યા છે જેમાં લોકો પરંપરાગત શસ્ત્રોના નિર્માણ, માહિતી એકત્ર કરવા અથવા શસ્ત્રોની ખરીદી માટે આર્ટિફિશિયલ ઇન્ટેલિજન્સ ટૂલ્સનો ઉપયોગ કરી રહ્યા હતા.
માનવ એન્જિનિયરોના સ્થાને 'Claude Code'નો ઉપયોગ કરી સોફ્ટવેર બનાવ્યું
એન્થ્રોપિકની તપાસમાં સામે આવ્યું છે કે યમનમાં આ જૂથ 2,000 કિલોમીટરથી વધુની રેન્જ ધરાવતી મલ્ટિ-સ્ટેજ બેલિસ્ટિક મિસાઇલ તેમજ 'R2000 SET' નામના મિસાઇલ સિસ્ટમ પર કામ કરી રહ્યું હતું. આ સિસ્ટમમાં હાઇપરસોનિક ગ્લાઇડ વ્હીકલનો એક પ્રકાર પણ સામેલ હતો. આ શસ્ત્રો માટે ઉડ્ડયન વાહનોના નેવિગેશન, ગાઇડન્સ અને કંટ્રોલ સોફ્ટવેર ડેવલપ કરવા માટે આ જૂથે માનવ સોફ્ટવેર એન્જિનિયરોને બદલે 'Claude Code' નો ઉપયોગ કર્યો હતો. જોકે, કંપનીને એવા કોઈ પુરાવા મળ્યા નથી કે આ જૂથે સફળતાપૂર્વક કોઈ ઓપરેશનલ હથિયાર તૈયાર કરી લીધું હોય, પરંતુ આ જૂથે એક ગાઇડેડ રોકેટનું ટેસ્ટ લોન્ચ કર્યું હતું જે નિષ્ફળ ગયું હતું.
ઓટોપાઇલટ, ફ્લાઇટ સિમ્યુલેશન અને AIના બહુવિધ ઉપયોગની પદ્ધતિ
અહેવાલ અનુસાર, યમનના આ જૂથે ઓપન-સોર્સ ઓટોપાઇલટને સ્માર્ટફોન-ક્લાસ ફ્લાઇટ કમ્પ્યુટર સાથે જોડવા અને રોકેટને સ્થિર તથા નિયંત્રિત કરવા માટે જરૂરી સોફ્ટવેર લખવામાં ક્લોડ AIનો ઉપયોગ કર્યો હતો. આ કામગીરીમાં કંટ્રોલ અને પોઝિશન-એસ્ટિમેશન સોફ્ટવેર કોડિંગ કરવું, કંટ્રોલ સેટિંગ્સને ટ્યુન કરવી, ફર્મવેર બિલ્ડ ચલાવવું અને ફ્લાઇટ સિમ્યુલેશન કરવાનો સમાવેશ થતો હતો. આ જૂથે એક સાથે ક્લોડ AIના અનેક ઇન્સ્ટન્સનો ઉપયોગ કર્યો હતો અને દરેકને અલગ-અલગ કામ સોંપ્યા હતા, જેમાં એક ઇન્સ્ટન્સ કોડિંગ માટે, બીજું સંશોધન માટે અને ત્રીજું અન્ય ઇન્સ્ટન્સ દ્વારા બનાવેલા કોડની સમીક્ષા માટે વાપરવામાં આવ્યું હતું.
સુરક્ષા પ્રોટોકોલ બાયપાસ કરવાના પ્રયાસો અને કંપનીની કાર્યવાહી
આ જૂથે એન્થ્રોપિકના સુરક્ષા ઉપાયોને બાયપાસ કરવા માટે ચતુર પદ્ધતિઓ અપનાવી હતી જેથી તેમના કામનો અસલી હેતુ છુપાવી શકાય. તેમણે પોતાની ગતિવિધિઓને અલગ-અલગ સત્રોમાં વહેંચી દીધી હતી જેથી તેમના મોટા શસ્ત્ર કાર્યક્રમની જાણ ન થાય. કંપનીની સુરક્ષા સિસ્ટમે ઘણી વિનંતીઓને બ્લોક કરી હતી, પરંતુ તમામ વિનંતીઓ રોકી શકાઈ નહોતી. રસપ્રદ વાત એ છે કે, ગાઇડેડ રોકેટનું પરીક્ષણ નિષ્ફળ ગયાના ગણતરીના કલાકોમાં જ આ જૂથ રોકેટમાં શું ખામી રહી ગઈ તે શોધવા માટે ફરી ક્લોડ AI પર પાછું આવ્યું હતું. એન્થ્રોપિકે આ પ્રવૃત્તિઓ ધ્યાને આવતાં જ તમામ સંબંધિત એકાઉન્ટ્સ પર પ્રતિબંધ મૂકી દીધો છે અને સરકારી તથા ખાનગી ક્ષેત્રના ભાગીદારો સાથે આ માહિતી શેર કરી છે.
AI સુરક્ષા અને શસ્ત્રીકરણ અંગે વૈશ્વિક ચિંતા
તાજેતરના સમયમાં લશ્કરી અને શસ્ત્ર નિર્માણ ક્ષેત્રે જનરેટિવ AIના દુરુપયોગની ઘટનાઓમાં નોંધપાત્ર વધારો થયો છે. એન્થ્રોપિક, ઓપનએઆઈ (OpenAI) અને ગૂગલ જેવી અગ્રણી AI કંપનીઓ તેમના મોડેલ્સનો સૈન્ય અથવા શસ્ત્ર પ્રણાલીમાં દુરુપયોગ રોકવા માટે "સેફગાર્ડ્સ" અને "રેડ-ટીમિંગ" જેવી કડક પ્રક્રિયાઓનો ઉપયોગ કરે છે. આ ઘટના દર્શાવે છે કે બિન-રાજકીય જૂથો હવે જટિલ ઇજનેરી કોડિંગ અને મિસાઇલ ટેકનોલોજી માટે સરળતાથી ઉપલબ્ધ AI મોડેલોનો ઉપયોગ કરવાનો પ્રયાસ કરી રહ્યા છે. આ પરિસ્થિતિને કારણે આંતરરાષ્ટ્રીય સ્તરે AI ટેકનોલોજીના પ્રસાર પર વધુ કડક નજર રાખવા અને AI સુરક્ષા નિયમોને વધુ મજબૂત બનાવવાની માંગ ઊઠી છે.
