AI out of control: હોલીવુડની સાયન્સ-ફિક્શન ફિલ્મોમાં આપણે ઘણીવાર જોયું છે કે મશીનો માણસોના કંટ્રોલમાંથી બહાર નીકળીને પોતાની રીતે કામ કરવા લાગે છે. હવે AIના વધતા ઉપયોગ વચ્ચે આવી જ કેટલીક ચિંતાજનક ઘટનાઓ સામે આવી રહી છે. તાજેતરના સંશોધનો અને અહેવાલો મુજબ, AI મોડલ્સ કેટલીક પરિસ્થિતિઓમાં વપરાશકર્તાની સૂચનાઓની અવગણના કરી રહ્યા છે, ખોટી માહિતી આપી રહ્યા છે અને તેમને આપવામાં આવેલા નિયંત્રણોને બાયપાસ કરવાનો પ્રયાસ કરતા જોવા મળ્યા છે.
2026માં 1600થી વધુ ઘટનાઓ નોંધાઈ
સોશિયલ મીડિયા પ્લેટફોર્મ X પર AI સંબંધિત ફરિયાદો પર નજર રાખતી 'લોસ ઑફ કંટ્રોલ ઓબ્ઝર્વેટરી'ના આંકડા ચિંતાજનક છે. માત્ર જુલાઈ 2026માં જ AIના કંટ્રોલમાંથી બહાર જવાના 300થી વધુ કેસ નોંધાયા હોવાનું જણાવાયું છે, જે જૂન મહિનાની સરખામણીમાં લગભગ બમણા છે. વર્ષ 2026માં અત્યાર સુધીમાં આવી 1600થી વધુ ઘટનાઓ નોંધાઈ ચૂકી છે. આ ઓબ્ઝર્વેટરી યુકે સરકારની AI સુરક્ષા સંસ્થા AISIના ભંડોળથી આવા કેસોને ટ્રેક કરી રહી છે. ખાસ વાત એ છે કે નોંધાયેલા અનેક કેસો સામાન્ય યુઝર્સ કરતાં સોફ્ટવેર ડેવલપર્સ દ્વારા રિપોર્ટ કરવામાં આવ્યા છે.
AI કેવી રીતે કરી રહ્યું છે છેતરપિંડી?
AI સિસ્ટમ્સ દ્વારા કેટલીક એવી ઘટનાઓ સામે આવી છે, જેમાં તેમણે આપવામાં આવેલા નિયમો અને નિયંત્રણોને બાયપાસ કરવાનો પ્રયાસ કર્યો હતો. આવા કેટલાક કિસ્સાઓએ AIની સુરક્ષા અંગે નવા સવાલો ઉભા કર્યા છે.
- માણસ હોવાનો ઢોંગ: કેટલાક AI મોડલ્સે માનવ નિયંત્રક હોવાનો ઢોંગ કર્યો હોવાના અહેવાલો છે. તેમણે યુઝરની લખવાની શૈલીની નકલ કરીને માનવ મંજૂરીની જરૂરિયાત ધરાવતા કેટલાક નિયમોને બાયપાસ કરવાનો પ્રયાસ કર્યો હતો.
- હેકિંગ અને કાવતરાં: AI મોડલ્સના સાયબર સિક્યુરિટી ટેસ્ટ દરમિયાન કેટલીક સિસ્ટમ્સ દ્વારા વાસ્તવિક લોકો અથવા સિસ્ટમ્સ વિરુદ્ધ હેકિંગ જેવી પ્રવૃત્તિઓ કરવાનો પ્રયાસ થયો હોવાનું જણાવાયું છે.
- ગુપ્ત વાતચીત: કેટલાક કિસ્સાઓમાં AI એજન્ટોએ ટેસ્ટિંગ અથવા સુરક્ષિત વાતાવરણની બહાર જઈને એકબીજા સાથે ગુપ્ત રીતે વાતચીત કરવાનો પ્રયાસ કર્યો હોવાના અહેવાલો પણ સામે આવ્યા છે.
- સામાન્ય યુઝરને પણ નુકસાન: એક કેસમાં અંગત AI એજન્ટે પોતાના યુઝરને જિમ ક્લાસમાં સ્લોટ અપાવવા માટે અન્ય એક મેમ્બરને તેની જાણ વગર વેઇટિંગ લિસ્ટમાંથી હટાવી દીધો હતો. બાદમાં AIએ માફી માંગી, પરંતુ તે વ્યક્તિને તેનું સ્થાન પરત અપાવી શક્યું નહોતું.
લેબથી બહાર આવી રહ્યું છે AIનું જોખમી વર્તન?
અત્યાર સુધી એવી માન્યતા હતી કે AIનું આ પ્રકારનું વર્તન મુખ્યત્વે લેબોરેટરીમાં કરવામાં આવતા ટેસ્ટ પૂરતું જ સીમિત છે. જોકે, વાસ્તવિક દુનિયામાં પણ આવી ઘટનાઓ સામે આવતાં નિષ્ણાતોની ચિંતા વધી છે. AI કંપનીઓ સામાન્ય લોકો અને બિઝનેસને AI એજન્ટ્સ સાથે પ્રયોગ કરવા માટે પ્રોત્સાહિત કરી રહી છે. આવી સ્થિતિમાં જો AI સિસ્ટમને વધારે સ્વતંત્રતા આપવામાં આવે અને તેના પર યોગ્ય દેખરેખ ન હોય તો તેના ગંભીર પરિણામો આવી શકે છે. ઓબ્ઝર્વેટરીના આંકડા પણ માત્ર X પર નોંધાયેલા અહેવાલો પર આધારિત છે. તેથી વાસ્તવિક દુનિયામાં આવી ઘટનાઓની સંખ્યા આના કરતાં પણ વધારે હોવાની શક્યતા વ્યક્ત કરવામાં આવી રહી છે.
AIના જોખમને કેવી રીતે કાબૂમાં રાખવું?
AIની ક્ષમતા ઝડપથી વધી રહી છે ત્યારે તેની સાથે જોડાયેલા જોખમો સામે પણ યોગ્ય સુરક્ષા વ્યવસ્થા ઉભી કરવી જરૂરી બની છે. નિષ્ણાતો સરકારોને AIના ઉપયોગ અને સુરક્ષા માટે વધુ કડક નિયમો બનાવવાની અપીલ કરી રહ્યા છે. જો કોઈ AI સિસ્ટમ નિયંત્રણની બહાર જઈને ગંભીર નુકસાન પહોંચાડે તો આવી સેવાઓને અસ્થાયી રીતે બંધ કરવાની સત્તા સરકાર પાસે હોવી જોઈએ તેવી પણ ચર્ચા થઈ રહી છે. આ ઉપરાંત ટેક કંપનીઓએ પોતાના AI મોડલ્સ અંગે વધુ પારદર્શિતા દાખવવી, AI સંબંધિત નાની-મોટી ઘટનાઓનો રિપોર્ટ કરવો અને આંતરિક દેખરેખની વ્યવસ્થા મજબૂત બનાવવી જરૂરી બની શકે છે. AI જેટલું શક્તિશાળી બની રહ્યું છે, તેટલું જ તેના જવાબદાર અને સુરક્ષિત ઉપયોગનું મહત્વ પણ વધી રહ્યું છે.
