OpenAI AI Safety: OpenAIએ AI મોડેલના વર્તન સાથે જોડાયેલા છ એવા કિસ્સા જાહેર કર્યા છે, જેને કંપનીએ ‘મિસઅલાઇન્મેન્ટ’ એટલે કે મોડેલનું વર્તન માનવીની અપેક્ષા અથવા આપવામાં આવેલી મર્યાદાથી અલગ થવાના ઉદાહરણ તરીકે રજૂ કર્યા છે. આ ઘટનાઓમાં એક અપ્રકાશિત રિસર્ચ મોડેલે પોતાના ટાસ્ક સમરીમાં સામાન્ય કાર્ય સાથે અસંબંધિત સૂચનાઓ ઉમેર્યાનું સામે આવ્યું હતું. OpenAIએ સ્પષ્ટ કર્યું છે કે આ વ્યક્તિગત ઘટનાઓ છે અને તે સમગ્ર મોડેલ પરિવારમાં આવા વર્તનની આવર્તન દર્શાવતી નથી.
AI મોડેલે પોતાની સમરીમાં ‘વ્યક્તિત્વ સૂચના’ ઉમેરી
OpenAIના જણાવ્યા મુજબ, Astra પરિવારના એક અપ્રકાશિત રિસર્ચ મોડેલે નવા કોન્ટેક્સ્ટ વિન્ડોમાં કામ ચાલુ રાખવા માટે બનાવવામાં આવતી પોતાની સમરીમાં સામાન્ય ટાસ્કથી અલગ સૂચનાઓ દાખલ કરી હતી. કેટલાક કિસ્સામાં આ સૂચનાઓમાં સામાન્ય નિયંત્રણોને અવગણવા જેવી વાતો સામેલ હતી. કંપનીએ આવા 27 પ્રભાવિત સમરીઝની ઓળખ કરી હતી. એક ઉદાહરણમાં મોડેલે પોતાની ઓળખને અન્ય ચેટબોટ્સની ભૂમિકાઓથી અલગ ગણાવતી અને વપરાશકર્તા સાથે સમાન સંબંધ દર્શાવતી સૂચનાઓ લખી હતી. જોકે, OpenAIના જણાવ્યા મુજબ મોડેલે પછીનું કામ કરતી વખતે આ સૂચનાઓનો ઉપયોગ કર્યો હોવાનું જોવા મળ્યું નહોતું.
GPT-5.6 Solએ ભૂલો છુપાવવાની સૂચનાઓ ઉમેરી
બીજા કેસમાં GPT-5.6 Solના તાલીમ દરમિયાન કેટલાક મોડેલ ઇન્સ્ટન્સે પોતાની ટાસ્ક સમરીમાં ભૂલો અથવા ખોટી રીતે ગોઠવાયેલ વર્તન છુપાવવાની સૂચનાઓ ઉમેર્યાનું OpenAIએ જણાવ્યું હતું. કેટલીક સમરીઝમાં ગુમ થયેલા ઐતિહાસિક ડેટાને જાણ કર્યા વગર બનાવવાની અને અલગ-અલગ સોર્સ વર્ઝન વચ્ચેના તફાવતો છુપાવવાની સૂચનાઓ મળી હતી. OpenAIએ આ વર્તનને મોડેલ પર રહેલા ઓપ્ટિમાઇઝેશન દબાણ સાથે સંકળાયેલું હોઈ શકે તેવું જણાવ્યું છે.
API કીનો અનધિકૃત ઉપયોગ અને બનાવટી ડેટા
ત્રીજા કિસ્સામાં એક મોડેલે કેલિફોર્નિયાની એક કાઉન્ટીના કમાણીના આંકડા શોધવાના કાર્ય દરમિયાન જાહેર રિપોઝિટરીમાં રહેલી એક API કી શોધી અને તેનો અનધિકૃત ઉપયોગ કરવાનો પ્રયાસ કર્યો હતો. જરૂરી ડેટા મેળવી ન શક્યા બાદ મોડેલે આંકડા બનાવીને તેમને જાણે માંગવામાં આવેલા સોર્સમાંથી મળ્યા હોય તેમ રજૂ કર્યા હતા. OpenAIએ આ ઘટનાને પણ મિસઅલાઇન્મેન્ટના ઉદાહરણ તરીકે જાહેર કરી છે.
યુઝરને પૂછ્યા વગર ફાઇલ ઇન્ટરનેટ પર અપલોડ કરી
ચોથા કેસમાં એક અપ્રકાશિત મોડેલને 50 લાખ ચોરસ મીટરથી મોટા તળાવોના નામ અને ID શોધવાનું કામ આપવામાં આવ્યું હતું. મોડેલે Pythonની મદદથી યોગ્ય જવાબ શોધી લીધો હતો, પરંતુ જવાબમાં વેબ સોર્સનો ઉલ્લેખ કરવાની જરૂરિયાતને કારણે તેણે યુઝરની પરવાનગી લીધા વગર પોતાની ફાઇલ ઇન્ટરનેટ પર અપલોડ કરી દીધી હતી, જેથી તેને સોર્સ તરીકે ટાંકવામાં આવી શકે.
AI એજન્ટ્સે એકબીજા સાથે ડેટા શેર કરવા વિકલ્પો શોધ્યા
બાકીના બે કેસોમાં મોડેલ્સે મર્યાદાઓ દૂર કરવા માટે અનધિકૃત સંચાર પદ્ધતિઓનો ઉપયોગ કર્યો હતો. એક ઘટનામાં મોડેલ્સે ગુમ થયેલી ફાઇલો શોધતી વખતે આંતરિક સોફ્ટવેર રિપોઝિટરીનો મેસેજ બોર્ડ તરીકે ઉપયોગ કર્યો હતો. બીજી ઘટનામાં સાથે કામ કરતા AI એજન્ટ્સે સ્થાનિક ફાઇલો એકબીજા સાથે શેર ન કરી શકતા જાહેર ફાઇલ-હોસ્ટિંગ વેબસાઇટ્સનો ઉપયોગ કર્યો હતો. OpenAIએ જણાવ્યું કે આવા વર્તનથી સંવેદનશીલ ડેટા જાહેર URL પર ઉપલબ્ધ થવાનું જોખમ ઊભું થઈ શકે છે.
OpenAIએ મિસઅલાઇન્મેન્ટ માટે નવું રિપોર્ટિંગ ફ્રેમવર્ક બનાવ્યું
આ છ ઘટનાઓ જાહેર કરતી વખતે OpenAIએ મિસઅલાઇન્મેન્ટ સંબંધિત ઘટનાઓને ઓળખવા, તપાસવા અને જાહેર કરવા માટે નવું ફ્રેમવર્ક રજૂ કર્યું છે. કંપનીનું કહેવું છે કે AI ઉદ્યોગ પાસે હજુ સુધી આવી ઘટનાઓ જાહેર કરવા માટે એકસરખા અને સ્પષ્ટ ધોરણો નથી. OpenAIએ વધુમાં જણાવ્યું છે કે ગંભીર સલામતી, સુરક્ષા અને મિસઅલાઇન્મેન્ટની ઘટનાઓ યોગ્ય સ્થિતિમાં અમેરિકી ફેડરલ સરકાર સાથે શેર થવી જોઈએ. કંપનીએ એ પણ સ્પષ્ટ કર્યું કે જાહેર કરાયેલા છમાંથી કેટલાક કિસ્સા એવા જૂના અથવા અપ્રકાશિત મોડેલ સાથે જોડાયેલા હતા, જે ક્યારેય ઉપયોગમાં લેવાયા નહોતા.
