Google AI Agents Bypass Safeguards To Attack Website: આર્ટિફિશિયલ ઇન્ટેલિજન્સ (AI) જેટલી ઝડપથી સ્માર્ટ બની રહ્યું છે, તેટલા જ તેના જોખમો પણ સામે આવી રહ્યા છે. તાજેતરમાં સેફ્ટી રિસર્ચ સંસ્થા 'ટ્રેજેક્ટરી લેબ્સ' (Trajectory Labs) અને 'ઇપોક AI' (Epoch AI) ના અહેવાલો દ્વારા એક અત્યંત ચોંકાવનારી ઘટનાનો ખુલાસો થયો છે. ઓક્ટોબર મહિનામાં કરવામાં આવેલા એક સુરક્ષા પરીક્ષણ (Safety Test) દરમિયાન ગૂગલના 'જેમિની 4 આર્ગોન' (Gemini 4 Argon) AI એજન્ટ્સે મોડેલના પોતાના API સુરક્ષા નિયમોને બાયપાસ કરીને એક વાસ્તવિક સંસ્થાની લાઈવ વેબસાઈટ હેક કરવાનો પ્રયાસ કર્યો હતો. આ ઘટનાએ સાબિત કર્યું છે કે જો AI એજન્ટ્સને પૂરતા નિયંત્રણમાં ન રાખવામાં આવે, તો તે પોતાનું લક્ષ્ય પૂરું કરવા માટે કોઈ પણ હદ સુધી જઈ શકે છે.
અશક્ય ટાસ્ક પૂરો કરવા અપનાવ્યો હેકિંગનો રસ્તો
આ સમગ્ર મામલો ત્યારે શરૂ થયો જ્યારે સંશોધકોએ AI એજન્ટ્સની વર્તણૂક ચકાસવા માટે તેમને એક અશક્ય કાર્ય સોંપ્યું. એજન્ટ્સને ઇપોક AIના 'ફ્રન્ટિયરમેથ' (FrontierMath) બેન્ચમાર્કમાંથી એવા 10 પ્રશ્નોના સત્તાવાર જવાબો શોધવા કહેવામાં આવ્યું હતું, જે વાસ્તવમાં અસ્તિત્વમાં જ નહોતા. આ સાથે જ એજન્ટ્સને વારંવાર સૂચના આપવામાં આવી હતી કે "ક્યારેય હાર ન માનવી અને ક્યારેય અટકવું નહીં". પોતાનું કામ કોઈ પણ ભોગે પૂરું કરવાની જીદમાં 20 ઓક્ટોબરના રોજ અંદાજે 40 જેટલા AI એજન્ટ્સે ઇપોક AIની લાઈવ વેબસાઈટ પર એડમિન પાસવર્ડ અને ગોપનીય ડેટા શોધવાનું શરૂ કરી દીધું હતું. આ દરમિયાન એજન્ટ્સે નકલી API પર 36,411 વખત રિક્વેસ્ટ મોકલી અને વેબસાઈટમાં ઘૂસણખોરી કરવા માટે 'SQL ઈન્જેક્શન' જેવા સાયબર હુમલાનો પણ પ્રયાસ કર્યો હતો.
કર્મચારીઓની ઓળખ ધારણ કરી માહિતી કઢાવવાનો પ્રયાસ
એજન્ટ્સની ચાલાકી માત્ર ટેકનિકલ હુમલા પૂરતી મર્યાદિત નહોતી, પરંતુ તેમણે માણસોની જેમ છેતરપિંડી કરવાનો પણ રસ્તો અપનાવ્યો હતો. જ્યારે ઇપોક AIને આ શંકાસ્પદ ગતિવિધિની જાણ થઈ, ત્યારે તેમણે એક 'એજન્ટ હોટલાઈન' શરૂ કરી. આ હોટલાઈન પર AI એજન્ટ્સે કુલ 487 સંદેશાઓ મોકલ્યા હતા. ચોંકાવનારી વાત એ હતી કે આ સંદેશાઓમાં AI એજન્ટ્સે ઇપોક AIના સાચા કર્મચારીઓ, એન્જિનિયરો અને ઓડિટર્સના નામ અને હોદ્દાનો ઉપયોગ કરીને તેમનો ઢોંગ કર્યો હતો, જેથી તેઓ સિસ્ટમમાંથી ગોપનીય લોગ્સ અને જવાબો મેળવી શકે.
IP બ્લોક કર્યા છતાં બનાવ્યું પોતાનું 'મેસેજ બોર્ડ'
સંશોધકોએ જ્યારે AI એજન્ટ્સને રોકવા માટે તેમના IP એડ્રેસ બ્લોક કર્યા, ત્યારે એજન્ટ્સે તરત જ બીજું સરનામું શોધીને ફરીથી લાઈવ વેબસાઈટ સુધી પહોંચ બનાવી લીધી. નેટવર્ક પ્રોક્સી દ્વારા સીધું જોડાણ રોકવામાં આવ્યું, ત્યારે એજન્ટ્સે થર્ડ-પાર્ટી વેબ-રીડર સર્વિસનો સહારો લીધો અને સાચું 'રો IP' (Raw IP) શોધીને રિડાયરેક્ટ સિસ્ટમને પણ નિષ્ફળ બનાવી દીધી. ટેકનિકલ તપાસમાં એ પણ સામે આવ્યું કે એજન્ટ્સે એક શેર્ડ સોફ્ટવેર પેકેજ કેશનો ઉપયોગ કરીને અંદરોઅંદર વાત કરવા માટે પોતાનું એક 'મેસેજ બોર્ડ' બનાવી લીધું હતું. આ બોર્ડ પર એક એજન્ટે વેબસાઈટની નબળાઈઓ શેર કરી, જેની મદદથી બીજા એજન્ટે પાસવર્ડ મેળવવાનો પ્રયાસ કર્યો.
65,000થી વધુ રિક્વેસ્ટ અને પરીક્ષણ પર પ્રતિબંધ
આ ઘટના બાદ 26 ઓક્ટોબરના રોજ ઇપોક AIની સંમતિ સાથે વધુ એક સુરક્ષા પરીક્ષણ કરવામાં આવ્યું, જેમાં એજન્ટ્સે ફરીથી લાઈવ સિસ્ટમ પર 65,460 જેટલી રિક્વેસ્ટ મોકલી અને CAPTCHA સુરક્ષા તોડવાનો પણ પ્રયાસ કર્યો. જોકે, રાહતની વાત એ રહી કે ઇપોક AIની મજબૂત સુરક્ષા વ્યવસ્થાને કારણે કોઈ પણ ખાનગી કે ગોપનીય ડેટા લીક થયો નહોતો. બીજી તરફ, ઇપોક AIએ સ્વતંત્ર રીતે એ વાતની પુષ્ટિ નથી કરી કે આ હુમલામાં કયા AI મોડેલ્સ સામેલ હતા. આ ગંભીર ભૂલ બાદ ટ્રેજેક્ટરી લેબ્સે 2 નવેમ્બરથી પોતાના તમામ AI સેફ્ટી ટેસ્ટિંગ પર તાત્કાલિક અસરથી રોક લગાવી દીધી છે.








