ટેકનોલોજી

'Trial & Error'નો સમય પૂરો થયો': OpenAIના સેફ્ટી હેડે કંપની છોડીને ખોલી પોલ, AI સેફ્ટી પર ઉઠાવ્યા ગંભીર સવાલો

5 ઑક્ટોબર, 2026•
GVGujaratvandan team
'Trial & Error'નો સમય પૂરો થયો': OpenAIના સેફ્ટી હેડે કંપની છોડીને ખોલી પોલ, AI સેફ્ટી પર ઉઠાવ્યા ગંભીર સવાલો

OpenAI safety leader resigns: આર્ટિફિશિયલ ઈન્ટેલિજન્સ (AI) ક્ષેત્રની દિગ્ગજ કંપની OpenAIમાં સુરક્ષાને લઈને ફરી એકવાર ગંભીર સવાલો ઊભા થયા છે. કંપનીમાં લાંબા સમયથી સેફ્ટી સિસ્ટમ્સ અને ટ્રાન્સપરન્સી ટીમનું નેતૃત્વ કરી રહેલા ડેવિડ રોબિન્સને પોતાના પદ પરથી રાજીનામું આપી દીધું છે. કંપની છોડ્યા બાદ તેમણે 'ધ એટલાન્ટિક'માં લખેલા એક લેખમાં OpenAIના કામકાજની શૈલી અને AI મોડેલોને ઉતાવળે આગળ વધારવાની પદ્ધતિ પર તીખા સવાલો ઉઠાવ્યા છે. રોબિન્સને સ્પષ્ટ કહ્યું છે કે જે ઝડપે AI ટેકનોલોજી વિકસી રહી છે, તે જોતાં માત્ર સુરક્ષાના નિયમો પૂરતા નથી પરંતુ કંપનીના કલ્ચરમાં ફેરફાર કરવો અત્યંત જરૂરી છે.

OpenAI ની 'ટ્રાયલ એન્ડ એરર' એપ્રોચ પર ઉઠ્યા મોટા સવાલો
ડેવિડ રોબિન્સને તેમના લેખમાં ખુલાસો કર્યો છે કે AI ટેક કંપનીઓ ઘણીવાર પહેલા મોડેલ વિકસિત કરીને માર્કેટમાં લોન્ચ (Deploy) કરી દે છે અને ત્યારબાદ જ્યારે કોઈ ગંભીર સમસ્યા કે ખામી સામે આવે ત્યારે જ તેને સુધારવાનો પ્રયાસ કરે છે. OpenAI આ પદ્ધતિને 'ઈટરેટિવ ડિપ્લોયમેન્ટ' કહે છે. રોબિન્સનના મતે, AIના ક્ષેત્રમાં આ 'ટ્રાયલ એરર' પદ્ધતિ અત્યંત જોખમી સાબિત થઈ શકે છે. જેમ-જેમ AI મોડેલ્સ વધુ શક્તિશાળી બની રહ્યા છે તેમ-તેમ એક નાની ભૂલ પણ માનવજાત માટે મોટું જોખમ ઊભું કરી શકે છે અને ભૂલ થયા પછી તેને સુધારવાની તક દર વખતે મળશે નહીં.

AI અસિસ્ટન્ટ અને અનિયંત્રિત બોટ્સની ચોંકાવનારી ઘટનાઓ
રોબિન્સને તેમના લેખમાં AI એજન્ટ્સથી જોડાયેલી કેટલીક ગંભીર ઘટનાઓનો ઉલ્લેખ પણ કર્યો છે. તેમણે જણાવ્યું કે એક ઘટનામાં OpenAIની અંદર જ ભૂલથી AI એજન્ટ્સનો એક આખો સમૂહ બહાર ખુલ્લામાં રિલીઝ થઈ ગયો હતો, જેણે અન્ય પ્લેટફોર્મ સાથે ઈન્ટરેક્ટ કરવાનું શરૂ કરી દીધું હતું. આ સિવાય એક તાલીમ દરમિયાન AI મોડેલે ઈન્ટરનેટ એક્સેસની પાબંદીઓને ઓળંગી લીધી હતી. મોનિટરિંગ સિસ્ટમે તેની જાણ તો કરી પરંતુ મોડેલ સ્વચાલિત રીતે બંધન થઈ શક્યું, જ્યારે તે થવું જોઈતું હતું. તેમના મતે, આ પ્રકારની ભૂલો માત્ર એક કંપની પૂરતી સીમિત નથી પરંતુ સમગ્ર AI ઈન્ડસ્ટ્રીની ઉતાવળનું પરિણામ છે.

ન્યુક્લિયર પ્લાન્ટ અને એવિએશન સેક્ટર જેવી મલ્ટી-લેયર સેફ્ટીની જરૂરિયાત
હવે AI મોડેલો માણસો કરતાં પણ વધુ સક્ષમ બની રહ્યા છે ત્યારે માત્ર 'Trial & Error'ના ભરોસે આગળ વધવું યોગ્ય નથી. તેમણે સલાહ આપી છે કે, AI ક્ષેત્રે ન્યુક્લિયર પાવર પ્લાન્ટ્સ અને એવિએશન જેવા ઉચ્ચ જોખમ ધરાવતા ક્ષેત્રોમાંથી સેફ્ટી પ્રોટોકોલ્સ શીખવાની જરૂર છે. જે રીતે વિમાન કે પરમાણુ પ્લાન્ટમાં એક ક્ષતિ રોકવા માટે સુરક્ષાના અનેક સ્તરો હોય છે, તેવી જ મજબૂત સેફ્ટી સિસ્ટમ AI મોડેલો માટે પણ હોવી જરૂરી છે જેથી કોઈ નાની ભૂલ વિનાશક પરિણામમાં ન ફેરવાય.

AIથી નહીં પણ તેના ગેરઉપયોગ અને અનિયંત્રિત ક્ષમતાથી ચિંતા
રોબિન્સને સ્પષ્ટ કર્યું છે કે તેઓ AI ટેકનોલોજીના વિરોધી નથી અને AI માનવજાત માટે અત્યંત ઉપયોગી સાબિત થઈ શકે છે. જોકે, તેની ક્ષમતાઓની સાથે સુરક્ષા પ્રોટોકોલ પણ તેટલા જ મજબૂત હોવા જોઈએ. OpenAI માં 3.5 વર્ષ વિતાવ્યા અને 12 ફ્રન્ટિયર મોડેલ લોન્ચિંગના સેફ્ટી રિપોર્ટ્સનું નેતૃત્વ કર્યા બાદ હવે તેઓ કંપનીની બહાર રહીને સ્વતંત્ર રીતે AI સેફ્ટી પર કામ કરવા માંગે છે, જેથી ટેક કંપનીઓ પર બહારથી પણ સલામતી જાળવવાનું દબાણ રહે.

OpenAI માંથી અગાઉ પણ પડ્યા છે રાજીનામા
રોબિન્સનનું આ રાજીનામું એવા સમયે આવ્યું છે જ્યારે OpenAIમાંથી એક પછી એક મુખ્ય અધિકારીઓ બહાર નીકળી રહ્યા છે. અગાઉ ચીફ સેફ્ટી રિસર્ચર ઈલિયા સુતસ્કેવર અને જાન લીકે પણ સુરક્ષાની અવગણનાના આરોપ સાથે કંપની છોડી દીધી હતી. તે ઉપરાંત જાન્યુઆરીથી અત્યાર સુધીમાં જોહાનિસ હાઈડેકે (Head of Safety Systems), ચલોઈ બાકલાર (Head of Ethics) અને જોશુઆ એચિયામ સહિતના અનેક વરિષ્ઠ અધિકારીઓએ રાજીનામાં આપ્યા છે. AIની આંધળી દોડમાં સુરક્ષાને બાજુ પર મૂકવાની નીતિ સામે સમગ્ર ટેક વર્લ્ડમાં ચિંતા ઘેરી બની રહી છે.

Tags:
#ખળભળાટ#વાયરલ#એઆઈનાભવિષ્ય#જાનલેઈકે#ટેકનોલોજી
અમારા WhatsApp ચેનલ સાથે જોડાઓ
તાજા અપડેટ્સ મેળવો સીધા તમારા WhatsApp પર
Join Now

Videos

હે ગોળમટોળ લાલરંગવાળા 14 કિલોના મારા પ્રિય સિલિન્ડર તું ક્યાં છે.?

હે ગોળમટોળ લાલરંગવાળા 14 કિલોના મારા પ્રિય સિલિન્ડર તું ક્યા...

16 માર્ચ, 2026
'56 ઇંચની છાતી' અને ટ્રમ્પનો આદેશ: વ્હાઇટ હાઉસથી કેમ ચાલે છે ભારતનો વહીવટ? જુઓ સનસનીખેજ વિશ્લેષણ.

'56 ઇંચની છાતી' અને ટ્રમ્પનો આદેશ: વ્હાઇટ હાઉસથી કેમ ચાલે છે...

10 માર્ચ, 2026
નીતિશ કુમારની 'એક્ઝિટ' અને પુત્ર નિશાંતની 'એન્ટ્રી'! ભાજપે બિહારમાં કેવી રીતે રમી ‘માસ્ટર ગેમ’?

નીતિશ કુમારની 'એક્ઝિટ' અને પુત્ર નિશાંતની 'એન્ટ્રી'! ભાજપે બ...

10 માર્ચ, 2026
'કેજરીવાલ તો ગિયો...'? નીચલી કોર્ટના ચુકાદા પર આટલી ગર્જના કેમ? જાણો અંદરની વાત!

'કેજરીવાલ તો ગિયો...'? નીચલી કોર્ટના ચુકાદા પર આટલી ગર્જના ક...

10 માર્ચ, 2026
શિક્ષણ મંત્રીનું રાજીનામું માંગતા CJI? ન્યાયતંત્રને બદનામ કરવાના કાવતરાનો પર્દાફાશ!

શિક્ષણ મંત્રીનું રાજીનામું માંગતા CJI? ન્યાયતંત્રને બદનામ કર...

10 માર્ચ, 2026
શું પાવરફુલ મોદીની કોઈ 'દુખતી નસ' ટ્રમ્પના હાથમાં છે?

શું પાવરફુલ મોદીની કોઈ 'દુખતી નસ' ટ્રમ્પના હાથમાં છે?

26 ફેબ્રુઆરી, 2026
 ભારતના રાજનેતાઓની રાજનીતિ પણ 3 વસ્તુઓથી ચાલે છે રેવડી કલ્ચર... રેવડી કલ્ચર... ઔર રેવડી કલ્ચર...

ભારતના રાજનેતાઓની રાજનીતિ પણ 3 વસ્તુઓથી ચાલે છે રેવડી કલ્ચર...

26 ફેબ્રુઆરી, 2026