AIની ઝડપથી વધતી ક્ષમતાઓ વચ્ચે તેની સુરક્ષા અને જોખમોને લઈને ટેક જગતમાં નવી ચર્ચા શરૂ થઈ છે. Anthropicના CEO Dario Amodeiએ અદ્યતન એટલે કે frontier AI મોડલ્સના વિકાસની ગતિને વધુ સાવચેતીપૂર્વક આગળ વધારવાની અપીલ કરી છે. તેમનો મત છે કે AIની ક્ષમતાઓ ઝડપથી વધી રહી છે, ત્યારે તેની સુરક્ષા અને નિયંત્રણ માટેની વ્યવસ્થાઓને પણ પૂરતો સમય મળવો જરૂરી છે.
Amodeiએ “We Must Pace the Frontier” નામના લેખમાં AI વિકાસને સંપૂર્ણપણે રોકવાની વાત કરી નથી. તેના બદલે તેમણે AI કંપનીઓને મોડલ્સની સુરક્ષા તપાસ માટે સ્વતંત્ર તૃતીય-પક્ષ મૂલ્યાંકનકારોને વધુ ઍક્સેસ આપવા, ઉદ્યોગમાં સામાન્ય સુરક્ષા ધોરણો વિકસાવવા અને વૈશ્વિક સ્તરે સહયોગ વધારવાની વાત કરી છે.
આ વિચારને OpenAIના CEO Sam Altman તરફથી પણ સમર્થન મળ્યું છે. Altmanએ independent evaluatorsને AI સિસ્ટમ્સની સુરક્ષા તપાસ માટે employee-like access આપવાનો વિચાર યોગ્ય ગણાવ્યો અને કહ્યું કે OpenAI પણ આ દિશામાં આગળ વધશે. xAIના Elon Muskએ પણ Amodeiની અપીલને સમર્થન આપતાં “Dario is right” કહ્યું હતું.
AI વિકાસની ગતિ અંગેની આ ચર્ચા પાછળ AI એજન્ટ્સની વધતી સ્વાયત્ત ક્ષમતાઓ અને તાજેતરના સુરક્ષા પરીક્ષણોને લઈને ઉભી થયેલી ચિંતાઓ પણ છે. જોકે, AIના જોખમો કેટલા મોટા છે અને તે ક્યારે ગંભીર સ્તરે પહોંચી શકે છે તે અંગે નિષ્ણાતોમાં સંપૂર્ણ સહમતિ નથી. તેથી આ મુદ્દાને ચોક્કસ ભવિષ્યવાણી કરતાં સંભવિત જોખમો અને સુરક્ષા અંગેની ચર્ચા તરીકે જોવો વધુ યોગ્ય છે.
આ સમગ્ર ચર્ચાનો મુખ્ય મુદ્દો એ છે કે AIમાં નવીનતા અને પ્રગતિ ચાલુ રહે, પરંતુ તેની સાથે સુરક્ષા, સ્વતંત્ર મૂલ્યાંકન અને માનવીય દેખરેખ પણ મજબૂત બને. AI ઉદ્યોગમાં અગ્રણી કંપનીઓ વચ્ચે આ મુદ્દે સહમતિના સંકેતો મળ્યા હોવા છતાં, વિકાસની ગતિ કેટલી હોવી જોઈએ અને તેના માટે કયા નિયમો લાગુ કરવા તે અંગે ચર્ચા હજુ ચાલુ છે.
સોશિયલ મીડિયામાં અમારી સાથે જોડાવ