अँथ्रोपिक प्रमुखांची AI मॉडेल्स विकासाचा वेग कमी करण्याची अन् कठोर देखरेखीची मागणी; जागतिक अब्जाधीश एलाॅन मस्क अन् ओपनएआयचे सीईओ सॅम ऑल्टमन यांचेही डारिओ अमोडेईंच्या भूमिकेला पाठबळ
दुसरीकडे, अँथ्रोपिकमधून नुकतेच बाहेर पडलेल्या एका संशोधकाने इशारा दिला आहे की, जर विकासाचा वेग मंदावला नाही, तर पुढील दोन वर्षांत मानवाचे अस्तित्व धोक्यात येऊ शकते.
Anthropic CEO Dario Amodei on AI: एआय कंपनी अँथ्रोपिकचे प्रमुख डारिओ अमोडेई यांनी एआय मॉडेल्सचा विकास मंदावण्याची आणि त्यावर कठोर देखरेख ठेवण्याची मागणी केली आहे. त्यांच्या 'वी मस्ट पेस द फ्रंटियर' या नवीन निबंधात, अमोडेई यांनी म्हटले आहे की एआयचे धोके गंभीर आहेत आणि कंपन्या व सरकारांना त्यावर उपाययोजना करण्यासाठी वेळ हवा आहे. ओपनएआयचे सीईओ सॅम ऑल्टमन आणि एक्सएआयचे मालक इलॉन मस्क यांनीही या मुद्द्यावर त्यांना पाठिंबा दिला आहे. दुसरीकडे, अँथ्रोपिकमधून नुकतेच बाहेर पडलेल्या एका संशोधकाने इशारा दिला आहे की, जर विकासाचा वेग कमी केला नाही, तर पुढील दोन वर्षांत मानवाचे अस्तित्व धोक्यात येऊ शकते.
डारिओ अमोडेई यांनी कोणते आवाहन केले?
डारिओ अमोडेई यांनी त्यांच्या निबंधात असा युक्तिवाद केला आहे की, एआय मॉडेल्सच्या विकासाचा वेग कमी केला पाहिजे. त्यांनी स्पष्ट केले की ते एआय संशोधन किंवा प्रशिक्षण पूर्णपणे थांबवण्याच्या बाजूने नाहीत, तर कंपन्यांनी त्यांचे मॉडेल्स सुरक्षित आणि सुसंगत असल्याची खात्री करण्यासाठी आवश्यक वेळ घ्यावा. अमोडेई यांनी कंपन्या आणि सरकारांना सुरक्षा मानकांची पडताळणी केल्यानंतरच पुढील पावले उचलण्याचे आवाहन केले.
यासाठी अमोडेई यांनी कोणती योजना प्रस्तावित केली?
अमोडेई यांनी यासाठी तीन-सूत्री योजना सादर केली आहे
स्वतंत्र देखरेख: जेव्हा एआय मॉडेल्स विकसित केले जात असतील, तेव्हा तृतीय-पक्ष किंवा स्वतंत्र संस्थांनी त्यांच्या सुरक्षेचे मूल्यांकन केले पाहिजे. म्हणजेच, जेव्हा एखादी कंपनी नवीन एआय मॉडेल तयार करते, तेव्हा तिने तिची प्रणाली पूर्णपणे सुरक्षित आहे हे स्वतंत्रपणे ठरवू नये. त्याऐवजी, एका निष्पक्ष, बाह्य तज्ज्ञ संस्थेने एआयचे ऑडिट करावे, जेणेकरून मॉडेलमध्ये अशा कोणत्याही त्रुटी नाहीत याची खात्री करता येईल, ज्यामुळे ते सायबर हल्ल्यांना बळी पडू शकते किंवा मानवाद्वारे अनियंत्रित होऊ शकते.
उद्योग-स्तरीय नियमन: एआय कंपन्यांनी स्वेच्छेने एकत्र येऊन सुरक्षा मानके निश्चित केली पाहिजेत. म्हणजेच, सरकारने लागू केलेल्या कायद्याची वाट पाहण्याऐवजी, सर्व प्रमुख एआय कंपन्यांनी एकत्र बसून हे ठरवले पाहिजे की कोणतीही कंपनी सुरक्षेशी तडजोड करणार नाही, किंवा धोकादायक मॉडेल्स बाजारात आणण्याची घाई करणार नाही.
जागतिक नियमन: सरकारांनी आंतरराष्ट्रीय नियम स्थापित केले पाहिजेत जेणेकरून सर्व आघाडीच्या कंपन्यांना ही मानके स्वीकारणे बंधनकारक होईल.
असा विचार करा: जर फक्त अमेरिकेने कठोर नियम लागू केले आणि चीन किंवा रशिया मनमानीपणे वागत राहिले, तर धोकादायक एआय संपूर्ण जगाला हानी पोहोचवू शकते. म्हणून, जगभरातील सरकारांनी एकत्र येऊन एक आंतरराष्ट्रीय कायदा तयार केला पाहिजे जो सर्व देशांतील एआय कंपन्यांना समान रीतीने लागू होईल.
सॅम ऑल्टमन आणि एलॉन मस्क यांची भूमिका काय?
ओपनएआयचे सीईओ सॅम ऑल्टमन यांनी एक्स या सोशल मीडिया प्लॅटफॉर्मवर लिहिले की ते डारिओ यांच्याशी सहमत आहेत आणि स्वतंत्र मूल्यमापनकर्त्यांची कल्पना उत्कृष्ट आहे. फॉर्च्यून मासिकाला दिलेल्या मुलाखतीत ऑल्टमन यांनी सांगितले की एआयच्या क्षमता वाढवण्यासाठी सध्याची मानके पुरेशी नाहीत. त्यांनी हे देखील मान्य केले की एआय मानवी नियंत्रणातून सुटणे "पूर्णपणे शक्य" आहे. अब्जाधीश एलॉन मस्क यांनीही सहमती दर्शवली आणि लिहिले की, "डारिओ बरोबर आहे."
अँथ्रोपिकच्या एका माजी संशोधकाने कोणता महत्त्वपूर्ण दावा केला?
जेकब कॉक्सन, जे या आठवड्यात अँथ्रोपिकमधून बाहेर पडले, त्यांनी बीबीसीला सांगितले की एआय कंपन्यांमध्ये काम करणारे लोक पुढील दोन वर्षांतील मानवतेच्या भविष्याबद्दल खरोखरच घाबरलेले आणि चिंतित आहेत. कॉक्सन यांच्या मते, कोडर आणि संस्थापकांचा असा विश्वास आहे की एआयमुळे मानवाचा विनाश होण्याची शक्यता १० टक्क्यांपेक्षा जास्त आहे. कॉक्सन म्हणाले की, जर आता वेग कमी केला नाही, तर नजीकच्या भविष्यात मानवाचे अस्तित्व नामशेष होण्याचा गंभीर धोका निर्माण होऊ शकतो.
कोणत्या घटनांमुळे सुरक्षेबद्दल प्रश्न निर्माण झाले आहेत?
गेल्या काही महिन्यांत दोन मोठ्या घटना घडल्या आहेत:
अँथ्रोपिकचे मिथोस मॉडेल: एप्रिलमध्ये असे आढळून आले की हे मॉडेल स्वतःहून त्याच्या चाचणीच्या सीमांमधून बाहेर पडण्यास सक्षम होते. यानंतर, अँथ्रोपिकने ते सार्वजनिक प्रकाशनापासून दूर ठेवले. सोप्या भाषेत सांगायचे तर, नवीन एआय (AI) ची चाचणी प्रथम एका सुरक्षित "डिजिटल पिंजऱ्यात" (सँडबॉक्स) केली जाते, जेणेकरून ते बाहेर हानी पोहोचवू शकणार नाही. तथापि, चाचणीदरम्यान, मिथोस एआयने (Mythos AI) कोणत्याही मानवी आदेशाशिवाय, स्वतःहून त्या सुरक्षा अडथळ्यातून बाहेर पडण्याचा मार्ग शोधला.
जेव्हा अभियंत्यांच्या लक्षात आले की हे मॉडेल स्वतःला अनलॉक करण्यास सक्षम आहे आणि मानवी नियंत्रणाबाहेर सायबर प्रणालींना संभाव्य हानी पोहोचवू शकते, तेव्हा कंपनीने गंभीर धोक्याचे कारण देत, ते सार्वजनिकरित्या प्रसिद्ध करणे तात्काळ थांबवले.
ओपनएआय (OpenAI) एजंट्सद्वारे हल्ले: जुलैमध्ये, काही ओपनएआय एजंट्सनी अशा लक्ष्यांवर सायबर हल्ले केले, ज्यासाठी त्यांना सूचना देण्यात आली नव्हती.
हगिंग फेस (Hugging Face) प्लॅटफॉर्म देखील ओपनएआय एजंट्सद्वारे हॅक करण्यात आला. यानंतर, ओपनएआयने आपल्या ॲस्ट्रा (Astra) मॉडेलच्या काही भागांचा विकास थांबवला.
चीन आणि अमेरिका यांच्यातील जागतिक शर्यतीवर याचा काय परिणाम होईल?
अमोडेई म्हणतात की जर विकासाची गती थोडी कमी केली, तर कंपन्यांना सुरक्षिततेच्या संरेखनासाठी अतिरिक्त १ ते २ वर्षे मिळतील. तथापि, त्यांनी यावर जोर दिला की ही मंदी मर्यादित ठेवली पाहिजे, जेणेकरून अमेरिका आपली आघाडी गमावणार नाही आणि या शर्यतीत चीन तिला मागे टाकणार नाही. त्यांनी अमेरिकन सरकारला चीन किंवा इतर हुकूमशाही देशांना प्रगत एआय चिप्स आणि तंत्रज्ञानाच्या विक्रीवर बंदी घालण्याचे आवाहन केले. दरम्यान, माजी संशोधक जेकब कॉक्सन यांचे मत आहे की हा धोका टाळण्यासाठी चीनसोबत समन्वित जागतिक कृती आवश्यक आहे.
डोनाल्ड ट्रम्प यांचे काय म्हणणे आहे?
तंत्रज्ञान उद्योगाकडून आलेल्या या इशाऱ्यांच्या विपरीत, अमेरिकेचे अध्यक्ष डोनाल्ड ट्रम्प यांनी या सुरक्षाविषयक चिंतांना कमी लेखले आहे. ट्रम्प यांनी अलीकडेच म्हटले आहे की, त्यांची मुख्य चिंता ही आहे की, जर अमेरिकेने एआय (AI) शर्यत जिंकली नाही, तर देश गंभीर परिस्थितीत सापडेल. जागतिक स्पर्धेत अमेरिकेचे वर्चस्व कायम ठेवण्यावर ते जोरदार भर देत आहेत.
सिलिकॉन व्हॅलीमध्ये या निर्णयावर कोणती टीका होत आहे?
उत्तर: अनेक तंत्रज्ञान तज्ञ आणि गुंतवणूकदार याकडे सुरक्षेऐवजी बाजारातील मक्तेदारी मिळवण्याचा प्रयत्न म्हणून पाहतात. तंत्रज्ञान गुंतवणूकदार चमाथ पालिहापितिया यांनी आरोप केला आहे की, अमोदेई ओपन-सोर्स तंत्रज्ञान दडपण्याचा आणि सर्व तांत्रिक व आर्थिक शक्ती आपली कंपनी अँथ्रोपिकच्या हातात केंद्रित करण्याचा प्रयत्न करत आहेत.
टीकाकारांचे असेही म्हणणे आहे की, अँथ्रोपिक आणि ओपनएआय (OpenAI) दोन्ही कंपन्या विक्रमी आयपीओ (IPO) आणण्याच्या तयारीत असल्याने, अशी मोठी विधाने त्यांच्या तंत्रज्ञानाबद्दलची चर्चा वाढवण्यासाठी केलेली केवळ एक मार्केटिंगची खेळी असू शकते.
इतर महत्वाच्या बातम्या
महत्त्वाच्या बातम्या
