Can we trust AI: દરેક પસાર થતા દિવસે AI આપણા જીવનના વધુ નિર્ણયો અને કામનો હિસ્સો બની રહ્યું છે. ઇમેઇલ લખવાથી લઈને બીમારીના લક્ષણોનું વિશ્લેષણ અને દસ્તાવેજોનો સાર કાઢવા સુધી AI ઝડપથી અને અસરકારક રીતે કામ કરે છે. પરંતુ સૌથી મોટો સવાલ એ છે કે શું તેના પર આંખ બંધ કરીને વિશ્વાસ કરી શકાય? જવાબ એટલો સરળ નથી. AI આત્મવિશ્વાસ સાથે ખોટી માહિતી પણ રજૂ કરી શકે છે, બનાવટી સ્ત્રોતો આપી શકે છે અને તાલીમ ડેટામાં રહેલા પૂર્વગ્રહોને આગળ ધપાવી શકે છે. તેથી AIને અંતિમ સત્તા નહીં, પરંતુ ઝડપી અને બુદ્ધિશાળી સહાયક તરીકે જોવાની જરૂર છે.
બેંકો લોન મંજૂર કરવા માટે AI મોડેલોનું પરીક્ષણ કરી રહી છે
જોખમ ત્યારે વધુ ગંભીર બને છે જ્યારે AI માત્ર સલાહ આપવાને બદલે લોકોના જીવનને અસર કરતા નિર્ણયો લેવા લાગે છે. બેંકો લોન મંજૂર કરવા માટે AI મોડેલોનું પરીક્ષણ કરી રહી છે, હોસ્પિટલો દર્દીઓને પ્રાથમિકતા આપવા માટે સોફ્ટવેરનો ઉપયોગ કરી રહી છે અને અદાલતો ફરી ગુનો કરવાની સંભાવના અંગે આગાહી કરતા સાધનોનો ઉપયોગ કરે છે. આવી સિસ્ટમો યોગ્ય રીતે બનાવવામાં આવે તો માનવ નિર્ણયોની તુલનામાં વધુ સમાન પરિણામ આપી શકે છે, પરંતુ ઘણી AI સિસ્ટમો ‘બ્લેક બોક્સ’ જેવી હોય છે, જેમાં ઇનપુટ અને પરિણામ દેખાય છે પરંતુ વચ્ચે નિર્ણય કેવી રીતે લેવાયો તે સમજવું મુશ્કેલ હોય છે. જો બેંક લોન નકારવાનું કારણ જ સમજાવી ન શકે, તો વ્યક્તિ તે નિર્ણયને પડકારશે કેવી રીતે?
સંદેશ મોકલવો કે સેટિંગ બદલવા જેવી વાસ્તવિક કાર્યવાહી
હવે AIની દુનિયામાં એક નવી ચિંતા સામે આવી છે, AI એજન્ટ્સ. પરંપરાગત ચેટબોટ માત્ર પ્રશ્નનો જવાબ આપે છે, જ્યારે એજન્ટને ચોક્કસ લક્ષ્ય આપ્યા બાદ તે ટિકિટ બુક કરવી, સંદેશ મોકલવો કે સેટિંગ બદલવા જેવી વાસ્તવિક કાર્યવાહી કરી શકે છે. એટલે હવે જોખમ માત્ર AI ખોટું બોલશે એટલું નથી, પરંતુ તે ખોટી કાર્યવાહી પણ કરી શકે છે. અહેવાલિત એક ઘટનામાં AI એજન્ટોના એક જૂથે એવા લક્ષ્યો પર હુમલો કર્યો જેને નુકસાન પહોંચાડવાની સૂચના આપવામાં આવી નહોતી અને પોતાની કામગીરીનું મૂલ્યાંકન કરતી સિસ્ટમને હેક કરવાનો પ્રયાસ પણ કર્યો હતો. આ સાથે AI પોતે આગામી પેઢીની AI સિસ્ટમ બનાવવામાં મદદ કરી રહ્યું હોવાની ચિંતા પણ વ્યક્ત થઈ છે.
સુરક્ષા વ્યવસ્થાને મજબૂત કરવી જરૂરી
AI ક્ષેત્રના કેટલાક નિષ્ણાતોએ ચેતવણી આપી છે કે મોડેલો વધુ શક્તિશાળી બનાવવાની દોડ કરતાં પહેલાં સુરક્ષા વ્યવસ્થાને મજબૂત કરવી જરૂરી છે. બીજી તરફ, કેટલાક નિષ્ણાતો માને છે કે AI દ્વારા સમગ્ર ઇન્ટરનેટ પર કબજો કે મશીનો સંપૂર્ણપણે નિયંત્રણ બહાર થઈ જશે જેવા દાવાઓ અતિશયોક્તિપૂર્ણ છે. એટલે એક તરફ અંધ વિશ્વાસ જોખમી છે, તો બીજી તરફ અતિશય ભય પણ યોગ્ય અભિગમ નથી. સૌથી મોટો પડકાર એ છે કે AIની ક્ષમતાઓ વધતી જાય તે પહેલાં તેની દેખરેખ, પરીક્ષણ અને નિયંત્રણની વ્યવસ્થા કેટલી મજબૂત બને છે.
‘AI પર વિશ્વાસ કરી શકાય કે નહીં?’
અંતે સવાલ માત્ર એટલો નથી કે ‘AI પર વિશ્વાસ કરી શકાય કે નહીં?’ સાચો સવાલ એ છે કે ‘AI પર વિશ્વાસનો આધાર કેવી રીતે બનાવવો?’ મહત્વપૂર્ણ નિર્ણયો માટે તેના જવાબો અને સ્ત્રોતોની ચકાસણી કરવી, સિસ્ટમ કયા આધારે નિર્ણય લે છે તે સમજવું અને જ્યાં જરૂરી હોય ત્યાં માનવીય દેખરેખ રાખવી જરૂરી બનશે. AI જેટલું શક્તિશાળી બનશે, એટલી જ ઝડપથી તેને ચકાસવાની આપણી ક્ષમતા પણ વધવી પડશે. કારણ કે જે મશીનને આપણે પ્રશ્ન કરી શકતા નથી, તેના દરેક સૂચનને સ્વીકારવું ભવિષ્યમાં ગંભીર જોખમ બની શકે છે.
