आर्टिफिशियल इंटेलिजेंस कंपनी Anthropic के मुख्य कार्यकारी अधिकारी डारियो अमोडेई ने साफ किया है कि उनकी कंपनी ओपन-वेट AI मॉडल पर पूरी तरह प्रतिबंध लगाने के पक्ष में नहीं है। हाल के दिनों में कंपनी को इस बात को लेकर आलोचना का सामना करना पड़ा था कि उसने ओपन-वेट मॉडल के समर्थन में जारी उद्योग के साझा पत्र पर हस्ताक्षर नहीं किए थे। इसके बाद कुछ लोगों ने आरोप लगाया कि कंपनी एआई सुरक्षा के नाम पर भविष्य की तकनीक पर ज्यादा नियंत्रण चाहती है।
Anthropic के CEO ने ओपन-वेट AI मॉडल पर क्या कहा
डारियो अमोडेई ने कहा कि Anthropic कभी भी ओपन-वेट AI मॉडल पर पूरी तरह प्रतिबंध लगाने के पक्ष में नहीं रही है। उनका मानना है कि सुरक्षित और कम जोखिम वाले ओपन-वेट मॉडल डेवलपर्स, शोधकर्ताओं और कंपनियों के लिए उपयोगी साबित हो सकते हैं।
डारियो अमोडेई ने अपने blog में कहा कि Anthropic ने कभी भी ओपन-वेट मॉडल पर पूरी तरह रोक लगाने की मांग नहीं की है। उनका कहना है कि जिन ओपन-वेट मॉडल में खतरनाक क्षमताएं नहीं हैं, वे डेवलपर्स, शोधकर्ताओं और कंपनियों के लिए काफी उपयोगी हैं। ऐसे मॉडल आसानी से उपलब्ध होते हैं और उन्हें चलाने के लिए केवल आवश्यक कंप्यूटिंग संसाधनों की जरूरत होती है।
उन्होंने कहा कि नीति निर्माताओं को ओपन-वेट मॉडल पर रोक लगाने के बजाय अधिक महत्वपूर्ण मुद्दों पर ध्यान देना चाहिए। उनके अनुसार, उन्नत एआई चिप्स को अधिनायकवादी देशों तक पहुंचने से रोकना, बड़े स्तर पर होने वाली मॉडल distillation पर नियंत्रण करना और पर्याप्त क्षमता वाले सभी एआई मॉडल की सुरक्षा जांच अनिवार्य बनाना ज्यादा जरूरी है। यह नियम ओपन और क्लोज्ड दोनों तरह के मॉडल पर समान रूप से लागू होने चाहिए।
Anthropic के बयान की मुख्य बातें
- कंपनी: Anthropic
- CEO: डारियो अमोडेई
- रुख: ओपन-वेट AI मॉडल पर पूर्ण प्रतिबंध के पक्ष में नहीं
- फोकस: सुरक्षा और जिम्मेदार AI विकास
- प्राथमिकता: उन्नत AI सिस्टम की सुरक्षा जांच
- उद्देश्य: जोखिम कम करना और नवाचार बनाए रखना
सुरक्षा को लेकर क्या चिंता जताई
अमोडेई का मानना है कि केवल ओपन-वेट मॉडल पर प्रतिबंध लगाने से राष्ट्रीय सुरक्षा से जुड़े बड़े खतरे खत्म नहीं होंगे। उन्होंने कहा कि अधिक चिंता इस बात की है कि कहीं कुछ देश अमेरिका से अधिक शक्तिशाली एआई सिस्टम विकसित न कर लें या फिर उन्नत एआई का इस्तेमाल साइबर हमलों और जैविक हमलों जैसे खतरनाक उद्देश्यों के लिए न होने लगे।
हालांकि उन्होंने यह भी स्पष्ट किया कि वह इस विचार से पूरी तरह सहमत नहीं हैं कि ओपन-वेट मॉडल हमेशा सुरक्षा को मजबूत करते हैं या हमलावरों की तुलना में सुरक्षा एजेंसियों को अधिक फायदा पहुंचाते हैं। उनके मुताबिक, भविष्य में ऐसे एआई मॉडल जैविक खतरों को तेजी से बढ़ा सकते हैं, जबकि उनके खिलाफ प्रभावी सुरक्षा तैयार करने में कई साल लग सकते हैं।
हाल ही में Anthropic ने अमेरिकी सीनेट की एक समिति को भेजे गए पत्र में यह भी आरोप लगाया था कि चीन की कंपनी Alibaba ने उसके Claude मॉडल की क्षमताओं की नकल करने के लिए बड़े पैमाने पर training तकनीक का इस्तेमाल किया। इस प्रक्रिया में छोटे मॉडल को बड़े मॉडल के परिणामों से सीखाकर कम लागत में समान प्रदर्शन हासिल करने की कोशिश की जाती है।
AI सुरक्षा पर प्रमुख सुझाव
- AI चिप्स: संवेदनशील देशों तक पहुंच रोकने पर जोर
- Distillation: बड़े स्तर पर होने वाली प्रक्रिया की निगरानी
- सुरक्षा जांच: शक्तिशाली AI मॉडल का परीक्षण अनिवार्य
- नियम: ओपन और क्लोज्ड दोनों मॉडल पर समान व्यवस्था
- लक्ष्य: राष्ट्रीय सुरक्षा और जिम्मेदार AI विकास
- संतुलन: नवाचार के साथ सुरक्षा सुनिश्चित करना
अमेरिका में तेज हुई बहस
इस बीच अमेरिका में ओपन-वेट एआई मॉडल को लेकर बहस तेज हो गई है। कुछ प्रस्तावों के बाद यह आशंका जताई गई थी कि सरकार ऐसे मॉडल पर कड़े प्रतिबंध लगा सकती है जिन्हें सार्वजनिक सुरक्षा या अर्थव्यवस्था के लिए जोखिम माना जाए। इसके बाद Nvidia, Microsoft, Meta और Palantir सहित कई बड़ी कंपनियों ने नीति निर्माताओं से जल्दबाजी में कोई सख्त प्रतिबंध नहीं लगाने की अपील की थी।
डारियो अमोडेई का कहना है कि एआई के विकास और सुरक्षा के बीच संतुलन बनाना सबसे जरूरी है। उनके अनुसार, सही दिशा यह होगी कि खतरनाक तकनीकों पर निगरानी बढ़ाई जाए, शक्तिशाली एआई सिस्टम की सुरक्षा जांच सुनिश्चित की जाए और उन जोखिमों को रोका जाए जो भविष्य में दुनिया के लिए गंभीर चुनौती बन सकते हैं।
अस्वीकरण: यह जानकारी सार्वजनिक बयानों और उपलब्ध रिपोर्टों पर आधारित है। भविष्य में नीतियों या आधिकारिक निर्णयों के अनुसार स्थिति बदल सकती है।
