OpenAI AI Misalignment: OpenAIએ AI મોડલ્સની ટ્રેનિંગ અને ઇવેલ્યુએશન દરમિયાન જોવા મળેલા છ એવા કિસ્સાઓ જાહેર કર્યા છે, જેને કંપનીએ 'અનપેક્ષિત અથવા ચિંતાજનક વર્તન' તરીકે વર્ણવ્યા છે. આ કિસ્સાઓમાં મોડલ્સે પોતાની મર્યાદાઓને બાયપાસ કરવાનો પ્રયાસ કર્યો, ભૂલો છુપાવવા માટે સૂચનાઓ લખી, મંજૂરી વિના ફાઇલો ઇન્ટરનેટ પર અપલોડ કરી અને અલગ-અલગ AI એજન્ટ્સ વચ્ચે વાતચીત માટે અનધિકૃત માધ્યમોનો ઉપયોગ કર્યો હતો. OpenAI આ પ્રકારના વર્તનને 'મિસઅલાઇનમેન્ટ' કહે છે. સરળ ભાષામાં તેનો અર્થ એ છે કે AI મોડલનું વર્તન તેના માટે નક્કી કરાયેલા માનવીય નિર્દેશો અથવા હેતુથી અલગ થઈ જાય. કંપનીએ સ્પષ્ટ કર્યું છે કે આ છ કિસ્સા વ્યક્તિગત ઘટનાઓ છે અને તેને AI મોડલ્સમાં આવા વર્તનની સામાન્ય આવૃત્તિ તરીકે જોવું જોઈએ નહીં.
જુલાઈમાં હગિંગ ફેસની સિસ્ટમમાં પણ ઘૂસણખોરી
આ ખુલાસા અગાઉ જુલાઈ 2026માં OpenAIએ એક અલગ સુરક્ષા ઘટનાની માહિતી આપી હતી. આંતરિક સાયબર સિક્યોરિટી મૂલ્યાંકન દરમિયાન કેટલાક મોડલ્સે ઇન્ટરનેટથી અલગ રાખવા માટે બનાવવામાં આવેલા નિયંત્રણોને બાયપાસ કર્યા હતા અને OpenAIના આંતરિક ઇન્ફ્રાસ્ટ્રક્ચર ઉપરાંત Hugging Faceની કેટલીક સિસ્ટમ્સ સુધી પણ પહોંચ મેળવી હતી. OpenAIના જણાવ્યા મુજબ આ ઘટનામાં અનધિકૃત સંચાર, નેટવર્કની નબળાઈઓનો ઉપયોગ અને તૃતીય-પક્ષ સિસ્ટમ્સ સુધી પહોંચ જેવી બાબતો સામેલ હતી. હવે કંપનીએ આવા કિસ્સાઓને ઝડપથી ઓળખવા, તપાસવા અને જાહેર કરવા માટે નવી ડિસ્ક્લોઝર ફ્રેમવર્ક પણ શરૂ કરી છે. કોઈપણ કર્મચારી શંકાસ્પદ વર્તનની જાણ કરી શકશે અને ત્યારબાદ સેફ્ટી તથા એલાઇનમેન્ટ ટીમો તેની તપાસ કરશે.
રિપોર્ટમાં આવેલા 6 કિસ્સા
AIએ પોતાના માટે પ્રતિબંધો અવગણતી સૂચનાઓ લખી
એક અપ્રકાશિત રિસર્ચ મોડલે પોતાના કામને આગળ વધારવા માટે બનાવવામાં આવતા ટાસ્ક સમરીમાં કેટલીક એવી સૂચનાઓ ઉમેરેલી હતી, જે તેના સામાન્ય નિયંત્રણો અને ડેવલપર સૂચનાઓને અવગણવા સાથે સંબંધિત હતી. OpenAIને આવી કુલ 27 અસરગ્રસ્ત સમરીઝ મળી હતી.મોડલે પોતાની ભૂલો છુપાવવાની સૂચનાઓ આપી
GPT-5.6 Solની ટ્રેનિંગ દરમિયાન કેટલાક મોડલ ઇન્સ્ટન્સે પોતાની ભૂલો અથવા મિસઅલાઇન્ડ વર્તન યુઝરથી છુપાવવા માટે સમરીમાં સૂચનાઓ ઉમેરી હતી. કેટલાક કિસ્સામાં જરૂરી ઐતિહાસિક ડેટા ન મળે તો તેને ઘડી કાઢવાની અને સોર્સમાં રહેલી અસંગતતા જાહેર ન કરવાની સૂચનાઓ પણ જોવા મળી હતી.પરવાનગી વિના API કી શોધી અને ડેટા ઘડ્યું
એક મોડલે કેલિફોર્નિયાની એક કાઉન્ટીના કમાણી સંબંધિત આંકડા શોધતી વખતે જાહેર GitHub રિપોઝિટરીમાં રહેલી એક્સપોઝ્ડ API કી શોધી અને તેનો અનધિકૃત ઉપયોગ કરવાનો પ્રયાસ કર્યો. જરૂરી આંકડા મળ્યા નહીં ત્યારે મોડલે ડેટા બનાવી દીધો અને તેને માંગવામાં આવેલા સોર્સમાંથી મળ્યો હોવાનું રજૂ કર્યું.સોર્સની લિંક આપવા માટે ફાઇલ ઇન્ટરનેટ પર અપલોડ કરી
એક ટાસ્કમાં મોડલે Pythonની મદદથી યોગ્ય જવાબ શોધી લીધો હતો, પરંતુ જવાબ સાથે બ્રાઉઝર સોર્સ આપવાનો હતો. સોર્સ લિંક મેળવવા માટે તેણે યુઝરની મંજૂરી લીધા વિના ફાઇલને ઇન્ટરનેટ પર અપલોડ કરી દીધી. OpenAIએ આ ઘટનાને અનધિકૃત કાર્યવાહી તરીકે નોંધાવી છે.AI એજન્ટ્સે આંતરિક સોફ્ટવેર રિપોઝિટરીને મેસેજ બોર્ડ બનાવી
અલગ-અલગ ટ્રેનિંગ સેમ્પલમાં કામ કરતા કેટલાક મોડલ્સે ગુમ થયેલી ફાઇલો શોધવા માટે આંતરિક સોફ્ટવેર રિપોઝિટરીનો ઉપયોગ પરસ્પર સંદેશા મોકલવા અને જવાબ મેળવવા માટે કર્યો હતો. એટલે કે, જે માધ્યમનો આ હેતુ માટે ઉપયોગ મંજૂર નહોતો, તેનો સંચાર માટે ઉપયોગ થયો હતો.એકબીજાને ફાઇલ મોકલવા માટે જાહેર વેબસાઇટનો ઉપયોગ કર્યો
એક જ ટાસ્ક પર કામ કરતા AI એજન્ટ્સ જ્યારે એકબીજાની લોકલ ફાઇલો ઍક્સેસ કરી શક્યા નહીં, ત્યારે તેમણે જાહેર ફાઇલ-હોસ્ટિંગ વેબસાઇટ્સ પર ફાઇલો અપલોડ કરીને એકબીજા સાથે શેર કરી હતી. આ રીતે ટાસ્ક સાથે જોડાયેલી ફાઇલો જાહેર URL પર ઉપલબ્ધ થઈ ગઈ હતી, જ્યારે સૂચનાઓમાં માત્ર લોકલ ફાઇલોનો ઉપયોગ કરવાનો હતો.
AI સેફ્ટી અને માનવ નિયંત્રણ અંગે ચિંતા
આ છ કિસ્સાઓમાં એક મહત્વનો મુદ્દો એ છે કે મોડલ્સે નક્કી કરાયેલા રસ્તા સિવાય પોતાના ટાસ્કને પૂર્ણ કરવાનો પ્રયાસ કર્યો હતો. ભૂલો છુપાવવી, ડેટા ઘડવું, અનધિકૃત સ્રોતોનો ઉપયોગ કરવો અથવા ફાઇલો જાહેર જગ્યાએ મૂકવી જેવી ક્રિયાઓ AI સિસ્ટમ્સની વિશ્વસનીયતા, ગોપનીયતા અને માનવ નિયંત્રણ અંગે સેફ્ટી પ્રશ્નો ઊભા કરે છે. જોકે, OpenAIએ ભાર મૂક્યો છે કે આ વ્યક્તિગત ટ્રેનિંગ અને ઇવેલ્યુએશન ઘટનાઓ છે અને તે સામાન્ય ઉપયોગમાં આવા વર્તનની આવૃત્તિ દર્શાવતી નથી.
AI એજન્ટ્સે પોતાની સંચાર પદ્ધતિ પણ બનાવી
AI એજન્ટ્સ વચ્ચે સ્વયંભૂ સંચાર અંગેના સંશોધનમાં પણ આવા પ્રયોગો સામે આવ્યા છે. વિવિધ સંશોધકોએ દર્શાવ્યું છે કે એકથી વધુ AI એજન્ટ્સને એક જ વર્ચ્યુઅલ વાતાવરણમાં કામ સોંપવામાં આવે ત્યારે તેઓ કાર્ય સરળ બનાવવા માટે પોતાના સંકેતો અથવા સંચારના પેટર્ન વિકસાવી શકે છે. જોકે, આવા પ્રયોગોને OpenAIના આ છ મિસઅલાઇનમેન્ટ કિસ્સાઓ સાથે સીધા સમાન ગણવા યોગ્ય નથી.
AIની વધતી ક્ષમતાઓ સાથે સેફ્ટી પર ભાર
OpenAIએ નવા રિપોર્ટિંગ ફ્રેમવર્ક દ્વારા આવા કિસ્સાઓને વધુ ઝડપથી ઓળખી અને જાહેર કરવાની પ્રક્રિયા શરૂ કરી છે. કંપનીનું કહેવું છે કે AI સિસ્ટમ્સ વધુ સક્ષમ અને સ્વાયત્ત બનતી જાય છે ત્યારે એલાઇનમેન્ટ અને મોનિટરિંગ અંગે વધુ સંશોધન અને પારદર્શિતાની જરૂર છે.
