Meta ने कहा है कि वह अब उन मामलों में माता-पिता को अलर्ट करेगा, जहां किशोरों की Meta AI चैट में तनाव, आत्म-हानि या आत्महत्या जैसे संकेत दिखाई देंगे। कंपनी का कहना है कि उसका लक्ष्य युवाओं को AI के साथ सुरक्षित और उम्र के अनुसार अनुभव देना है, साथ ही मुश्किल समय में उन्हें ऑफलाइन मदद से जोड़ना है।
आर्टिफिशियल इंटेलिजेंस के बढ़ते इस्तेमाल के बीच बच्चों और किशोरों की ऑनलाइन सुरक्षा को लेकर कंपनियां नए कदम उठा रही हैं।
Meta AI चैट में आत्म-हानि संकेत मिलने पर माता-पिता को मिलेगा अलर्ट
Meta के नए AI Safety Update की मुख्य बातें
- फोकस: किशोरों की AI चैट सुरक्षा
- अलर्ट: माता-पिता को सूचना
- पहचान: तनाव और आत्म-हानि संकेत
- लक्ष्य: सुरक्षित AI अनुभव देना
- सहायता: ऑफलाइन मदद से जोड़ना
Meta ने बताया कि उसका नया अपडेट खासतौर पर संवेदनशील बातचीत पर ध्यान केंद्रित करता है। अगर कोई किशोर AI चैट में खुद को नुकसान पहुंचाने से जुड़े संकेत देता है, तो सिस्टम इसकी पहचान कर माता-पिता को जानकारी देगा। कंपनी के अनुसार, पहले Meta AI ऐसे मामलों में हेल्पलाइन और भरोसेमंद लोगों से बात करने की सलाह देता था, लेकिन अब सुरक्षा के लिए ज्यादा सक्रिय कदम उठाए जाएंगे।
कंपनी ने बताया कि इस सुविधा के लिए सुरक्षा विशेषज्ञों के साथ मिलकर एक विशेष AI सिस्टम तैयार किया गया है। यह सिस्टम उन बातचीत को पहचानने की कोशिश करेगा जिनमें आत्म-हानि का खतरा हो सकता है, भले ही संकेत सीधे तौर पर न दिए गए हों।
अलर्ट से पहले होगी चैट की मैनुअल समीक्षा
Meta ने कहा कि किसी भी अलर्ट को भेजने से पहले AI द्वारा चिन्हित चैट की मैनुअल समीक्षा की जाएगी। अगर समीक्षा के बाद भी स्थिति स्पष्ट नहीं होती है, तो कंपनी सावधानी बरतते हुए माता-पिता को सूचना देने का फैसला करेगी। Meta का कहना है कि कभी-कभी गलत अलर्ट जा सकता है, लेकिन सुरक्षा को प्राथमिकता देना जरूरी है।
ConnectSafely के CEO Larry Magid ने कहा कि बच्चों की निजता महत्वपूर्ण है, लेकिन अगर किसी किशोर के खुद को नुकसान पहुंचाने का खतरा हो तो माता-पिता को जानकारी मिलनी चाहिए। उन्होंने Meta के इस कदम का समर्थन करते हुए कहा कि इससे बच्चों की सुरक्षा और उनकी निजी जानकारी के बीच संतुलन बनाने में मदद मिल सकती है।
Meta AI Safety Feature की उपलब्धता
- उपलब्ध देश: अमेरिका, ब्रिटेन, ऑस्ट्रेलिया और कनाडा
- फीचर: Instagram parental supervision
- विस्तार: इस साल के अंत तक दुनियाभर में
- मुख्य उद्देश्य: किशोरों की सुरक्षा
- अन्य सुविधा: Emergency services संपर्क
फिलहाल यह सुविधा अमेरिका, ब्रिटेन, ऑस्ट्रेलिया और कनाडा में Instagram की parental supervision सुविधा इस्तेमाल करने वाले माता-पिता के लिए उपलब्ध है। Meta ने कहा है कि इसे इस साल के अंत तक दुनियाभर में लागू किया जाएगा।
इसके अलावा Meta ने बताया कि वह ऐसे मामलों में emergency services से संपर्क करने की सुविधा भी विकसित कर रहा है, जहां किसी व्यक्ति, चाहे वह किशोर हो या वयस्क, के सामने आत्महत्या का तत्काल खतरा दिखाई दे। कंपनी के अनुसार, Facebook और Instagram पर पहले से मौजूद सुरक्षा व्यवस्था के जरिए पिछले साल दुनियाभर में हजारों wellness checks के लिए मदद भेजी गई थी।
AI Safety को बेहतर बनाने के लिए विशेषज्ञों की मदद
इस नई सुविधा को बेहतर बनाने के लिए Meta ने 75 से अधिक mental health विशेषज्ञों, AI Wellbeing Expert Council और Youth Advisors के साथ काम किया है। विशेषज्ञों ने AI के जवाबों की समीक्षा की ताकि chatbot यूजर की भावनाओं को समझने के बाद सही तरीके से सहायता की ओर मार्गदर्शन कर सके।
Meta ने अपने content controls को भी और मजबूत करने की घोषणा की है। किशोरों के अकाउंट में पहले से ही कुछ संवेदनशील विषयों पर सीमाएं लागू हैं। अब माता-पिता “Limited Content” सेटिंग को सक्रिय कर सकेंगे, जिससे Meta AI कई तरह के अनुचित सवालों के जवाब देने से इनकार करेगा और सुरक्षित बातचीत को बढ़ावा देगा।
डिस्क्लेमर: यह जानकारी सामान्य सूचना के उद्देश्य से है। मानसिक स्वास्थ्य से जुड़े मामलों में विशेषज्ञ सहायता लेना जरूरी है।
