OpenAI में तीन शोधकर्ताओं को नौकरी से निकाले जाने के मामले ने आर्टिफिशियल इंटेलिजेंस की सुरक्षा, गोपनीय जानकारी और बाहरी विशेषज्ञों के साथ सहयोग को लेकर बहस तेज कर दी है। कंपनी को संदेह था कि शोधकर्ताओं ने Signal ऐप पर एक बाहरी AI सुरक्षा शोधकर्ता से बातचीत के दौरान संवेदनशील जानकारी साझा की। हालांकि, संबंधित कर्मचारियों ने गोपनीय जानकारी लीक करने के आरोपों से इनकार किया है।
OpenAI ने तीन शोधकर्ताओं को क्यों निकाला?
नौकरी गंवाने वाले शोधकर्ताओं में Tomek Korbak, Mikita Balesni और Jasmine Wang शामिल हैं। Korbak के अनुसार, उन्हें बताया गया कि बिना मंजूरी वाले माध्यम से किसी बाहरी व्यक्ति से बातचीत करने के कारण कंपनी का भरोसा टूटा। शोधकर्ताओं का कहना है कि उन्हें लिखित रूप में यह स्पष्ट नहीं किया गया कि उन्होंने कौन-सी संवेदनशील जानकारी गलत तरीके से साझा की थी।
OpenAI ने The Wall Street Journal को बताया कि आंतरिक जांच में संवेदनशील जानकारी संभालने से जुड़े स्पष्ट नियमों का उल्लंघन मिला था। कंपनी ने कहा कि कर्मचारियों को सुरक्षा संबंधी चिंता उठाने या अपनी राय रखने के कारण नहीं निकाला गया। कंपनी के मुताबिक, Signal का इस्तेमाल मंजूर नहीं था, लेकिन यह अकेला कारण नहीं था।
🔎 मामला एक नजर में
- कंपनी: OpenAI
- शोधकर्ता: Tomek Korbak, Mikita Balesni और Jasmine Wang
- मुख्य विवाद: बाहरी AI सुरक्षा शोधकर्ता से Signal पर बातचीत
- कंपनी का पक्ष: संवेदनशील जानकारी से जुड़े नियमों का उल्लंघन
- शोधकर्ताओं का पक्ष: उन्होंने कंपनी की गोपनीय जानकारी साझा नहीं की
Signal के disappearing messages पर सवाल
जांच के दौरान कंपनी के सुरक्षा अधिकारियों ने शोधकर्ताओं के फोन देखे। रिपोर्ट के अनुसार, कुछ बातचीत में ऐसे संदेशों की सुविधा चालू थी जो कुछ समय बाद अपने आप गायब हो जाते हैं। Balesni और Korbak का कहना है कि कंपनी ने इस सुविधा के इस्तेमाल को भी नौकरी से निकालने के कारणों में गिनाया।
Korbak ने कहा कि तकनीकी उद्योग में disappearing messages को कभी-कभी सुरक्षा के सामान्य तरीके के रूप में देखा जाता है। दूसरी ओर, कंपनियों के लिए यह सुनिश्चित करना जरूरी होता है कि संवेदनशील कारोबारी जानकारी स्वीकृत और जांच योग्य माध्यमों से ही साझा की जाए।
AI सुरक्षा और मॉडल की सोच को समझने की चिंता
इस विवाद की पृष्ठभूमि में AI मॉडल को इंसानों के नियंत्रण में रखने की चुनौती भी है। शोधकर्ताओं की चिंता थी कि भविष्य के कुछ मॉडल ज्यादा जटिल तरीके से सोच सकते हैं, लेकिन उनके काम करने की प्रक्रिया को समझना कठिन हो सकता है। इससे सुरक्षा विशेषज्ञों के लिए यह पहचानना मुश्किल हो सकता है कि मॉडल किसी फैसले तक कैसे पहुंचा।
2025 में Balesni, Korbak और अन्य सह-लेखकों के एक शोधपत्र में मॉडल की chain-of-thought प्रक्रिया पर नजर रखने के महत्व पर चर्चा की गई थी। इस प्रक्रिया में मॉडल समस्या हल करते समय बीच के कुछ कदम लिखता है। शोधकर्ताओं का मानना रहा है कि ऐसी जानकारी सुरक्षा जांच के लिए उपयोगी हो सकती है, हालांकि यह अपने आप में मॉडल की पूरी सोच या सही व्यवहार की गारंटी नहीं देती।
⚠️ AI सुरक्षा में बड़ी चुनौती
- मुख्य चिंता: AI मॉडल के फैसलों को समझना कठिन होना
- शोधकर्ताओं की मांग: सुरक्षा जांच के लिए उपयोगी जानकारी बचाए रखना
- कंपनियों की चिंता: व्यापारिक रहस्यों और मॉडल डिजाइन की रक्षा
- बड़ा सवाल: बाहरी निगरानी और गोपनीयता के बीच संतुलन
- संभावित असर: भविष्य के AI सिस्टम की निगरानी और नियंत्रण
बाहरी सुरक्षा समूहों को कितना access मिलना चाहिए?
OpenAI ने AI सुरक्षा से जुड़े बाहरी समूह METR के साथ काम किया है। कंपनी ने बताया कि वह कई सुरक्षा संगठनों के साथ सहयोग करती है और आगे भी साझेदारी की घोषणा करेगी। हालांकि, जांच के दायरे और कंपनी की बौद्धिक संपदा तक पहुंच को लेकर अंदर मतभेद होने की बात भी रिपोर्ट में सामने आई।
Anthropic ने भी METR के कर्मचारियों को अपने सिस्टम तक कर्मचारी-जैसी पहुंच देने की व्यवस्था की घोषणा की थी, लेकिन मॉडल के आंतरिक डिजाइन जैसी कुछ जानकारियों को इससे बाहर रखा गया। यह दिखाता है कि AI कंपनियां सुरक्षा जांच में सहयोग करना चाहती हैं, लेकिन अपने सबसे संवेदनशील तकनीकी रहस्यों को लेकर सतर्क भी हैं। METR के काम के बारे में अधिक जानकारी इसकी आधिकारिक वेबसाइट पर देखी जा सकती है।
शोधकर्ताओं ने कंपनी के बोर्ड से क्या कहा?
अक्टूबर में लिखे पत्र में तीनों शोधकर्ताओं ने OpenAI के बोर्ड से बाहरी सुरक्षा संगठनों के साथ सहयोग बढ़ाने की अपील की। उनका कहना था कि स्वतंत्र जांच और स्पष्ट नियमों से भविष्य में गंभीर जोखिमों को रोकने में मदद मिल सकती है। Korbak ने यह चिंता भी जताई कि इस मामले के बाद कर्मचारी बाहरी विशेषज्ञों से बात करने या सुरक्षा से जुड़े सवाल उठाने से डर सकते हैं।
Jasmine Wang ने अलग से कहा कि उन्हें एक वरिष्ठ अधिकारी के ईमेल तक बार-बार पहुंचने के कारण निकाला गया। उनके अनुसार, उन्होंने लगभग एक साल पहले अपनी पहुंच हटाने का अनुरोध किया था, लेकिन वह बनी रही और उनसे गलती से एक संवेदनशील ईमेल खुल गया। उन्होंने दावा किया कि उन्होंने उसकी सामग्री किसी के साथ साझा नहीं की और घटना की सूचना तुरंत दी। OpenAI ने कहा कि ईमेल तक पहुंच अपने आप में समस्या नहीं थी।
यह मामला AI कंपनियों के सामने मौजूद एक कठिन सवाल दिखाता है: सुरक्षा जांच के लिए बाहरी विशेषज्ञों को कितनी जानकारी दी जाए और गोपनीय तकनीक को कैसे सुरक्षित रखा जाए। इस विवाद में दोनों पक्षों के दावे अलग हैं, इसलिए इसे किसी एक पक्ष के आरोपों को अंतिम रूप से सही मानकर नहीं देखना चाहिए।
Disclaimer: यह लेख उपलब्ध मीडिया रिपोर्टों पर आधारित है। आरोपों और जवाबों की स्वतंत्र पुष्टि आवश्यक है।
