Meta Instagram AI Safety Feature: टीनएजर्स के सेल्फ-हार्म पर पैरेंट्स को तुरंत मिलेगा Alert, ऐसे बचेगी जान
जबसे आर्टिफिशियल इंटेलिजेंस(AI) तब से तकनीकी दुनिया में काफी परिवर्तन हो चुका है। आज के दौर में टीनएजर्स अपनी भावनाएं इंसानों से ज्यादा एआई को शेयर कर रहे हैं। इसी मद्देनजर मेटा ने इंस्टाग्राम पर एक सेफ्टी फीचर जोड़ा है। असल में अब कोई भी टीनेजर इंस्टाग्राम के पैरेंटल सुपरविजन वाले अकाउंट के जरिए मेटा एआई से चैट करते समय डिप्रेशन, आत्महत्या या खुद को नुकसान पहुंचाने संबंधित बातों पर बात करेगा, तो सिस्टम बिना देर किए उसके माता-पिता को अलर्ट भेजेगा।इसके साथ ही, मेटा पैरेंट्स को मानसिक स्वास्थ्य विशेषज्ञ की तरफ से तैयार किया गया एक मार्गदर्शन भी देगा, जिससे वे समझ सकें कि इस कठिन परिस्थिति में अपने बच्चे से किस प्रकार से बात करनी है या फिर उसे ऑफलाइन सपोर्ट कैसे मिलेगा। किन देशों में शुरू हुई यह सुविधा?-फिलहाल मेटा ने इस फीचर को यूनाइटेड स्टेट्स, ऑस्ट्रेलिया और कनाडा में उन यूजर्स के लिए उपलब्ध कराया है, जो इंस्टाग्राम के पैरेंटल सुपरविजन टूल का इस्तेमाल कर रहे हैं। - मेटा ने यह भी बताया है कि 2026 में आखिर में इस सुविधा को दुनियाभर में उपलब्ध कराया जाएगा। मेटा ने अपने आधिकारिक ब्लॉग में बताया है कि कंपनी चाहती है कि टीनएजर्स को एआई के साथ उनकी उम्र के अनुसार सुरक्षित एक्सपीरियंस मिले। - इतना ही नहीं, एआई को लगे कि कोई किशोर मानसिक संकट से जूझ रहा है, तो उसका उद्देश्य सिर्फ बातचीत करना नहीं, बल्कि ऑफलाइन सपोर्ट भी करेगा।कैसे काम करेगा यह सिस्टम?मेटा एआई पहले से ही ऐसी परिस्थितियों में, जहां बातचीत में आत्महत्या या स्वयं को नुकसान पहुंचाने जैसे संकेत दिखाई देते हैं, उपयोगकर्ताओं को किसी विश्वसनीय व्यक्ति, मानसिक स्वास्थ्य विशेषज्ञ या आपातकालीन सहायता हेल्पलाइन से संपर्क करने की सलाह देता है। नए अपडेट के तहत, यदि एआई को यह आभास होता है कि पैरेंटल सुपरविजन के अंतर्गत आने वाला कोई टीनएजर्स संभावित जोखिम में है, तो प्रणाली स्वचालित रूप से उसके अभिभावकों को सूचना भेजकर उन्हें सतर्क करेगी।मेंटल हेल्थ एक्सपर्ट्स की मदद से हुआ है तैयार - मेटा के अनुसार, इस डिटेक्शन सिस्टम को मेंटल हेल्थ एक्सपर्ट्स की मदद से तैयार किया गया है, जो कि सिर्फ सीधे शब्द नहीं, बल्कि मानसकि तनाव के छोटे-छोटे संकेतों को भी पहचान सके। - इस बीच, कंपनी ने यह स्पष्ट कर दिया हैकि एआई की तरफ से फ्लैग की गई हर बातचीत का पहले मैनुअल रिव्यू किया जाएगा। इसके बाद पुष्टि होने पर ही पैरेंट्स को अलर्ट दिया जाएगा। यदि किसी स्थिति में संदेह होगा, तो कंपनी सुरक्षा को प्राथमिकता देते हुए पैरेट्स को सूचित करेगा।Emergency Alert फीचर पर भी काम- इतना ही नहीं मेटा एक और नई सुविधा विकसित कर रहा है, जिसमें यदि किसी यूजर में तुरंत सुसाइड जैसे शब्द को सर्च किया, तो संकेत मिलते ही, इमरजेंसी सर्विस को भी अलर्ट दिया जाएगा। - लेकिन कंपनी का कहना है कि फेसबुक और इंस्टा जैसे एप्स पहले से भी गंभीर सुसाइड रिस्क वाले पोस्ट पर इमरजेंसी रिस्पोंडर्स को सूचना भेजता है। पिछले साल मेटा ने दुनियाभर में 19 हजार से अधिक रेफलर किए थे।
जबसे आर्टिफिशियल इंटेलिजेंस(AI) तब से तकनीकी दुनिया में काफी परिवर्तन हो चुका है। आज के दौर में टीनएजर्स अपनी भावनाएं इंसानों से ज्यादा एआई को शेयर कर रहे हैं। इसी मद्देनजर मेटा ने इंस्टाग्राम पर एक सेफ्टी फीचर जोड़ा है।
असल में अब कोई भी टीनेजर इंस्टाग्राम के पैरेंटल सुपरविजन वाले अकाउंट के जरिए मेटा एआई से चैट करते समय डिप्रेशन, आत्महत्या या खुद को नुकसान पहुंचाने संबंधित बातों पर बात करेगा, तो सिस्टम बिना देर किए उसके माता-पिता को अलर्ट भेजेगा।
इसके साथ ही, मेटा पैरेंट्स को मानसिक स्वास्थ्य विशेषज्ञ की तरफ से तैयार किया गया एक मार्गदर्शन भी देगा, जिससे वे समझ सकें कि इस कठिन परिस्थिति में अपने बच्चे से किस प्रकार से बात करनी है या फिर उसे ऑफलाइन सपोर्ट कैसे मिलेगा।
किन देशों में शुरू हुई यह सुविधा?
-फिलहाल मेटा ने इस फीचर को यूनाइटेड स्टेट्स, ऑस्ट्रेलिया और कनाडा में उन यूजर्स के लिए उपलब्ध कराया है, जो इंस्टाग्राम के पैरेंटल सुपरविजन टूल का इस्तेमाल कर रहे हैं।
- मेटा ने यह भी बताया है कि 2026 में आखिर में इस सुविधा को दुनियाभर में उपलब्ध कराया जाएगा। मेटा ने अपने आधिकारिक ब्लॉग में बताया है कि कंपनी चाहती है कि टीनएजर्स को एआई के साथ उनकी उम्र के अनुसार सुरक्षित एक्सपीरियंस मिले।
- इतना ही नहीं, एआई को लगे कि कोई किशोर मानसिक संकट से जूझ रहा है, तो उसका उद्देश्य सिर्फ बातचीत करना नहीं, बल्कि ऑफलाइन सपोर्ट भी करेगा।
कैसे काम करेगा यह सिस्टम?
मेटा एआई पहले से ही ऐसी परिस्थितियों में, जहां बातचीत में आत्महत्या या स्वयं को नुकसान पहुंचाने जैसे संकेत दिखाई देते हैं, उपयोगकर्ताओं को किसी विश्वसनीय व्यक्ति, मानसिक स्वास्थ्य विशेषज्ञ या आपातकालीन सहायता हेल्पलाइन से संपर्क करने की सलाह देता है। नए अपडेट के तहत, यदि एआई को यह आभास होता है कि पैरेंटल सुपरविजन के अंतर्गत आने वाला कोई टीनएजर्स संभावित जोखिम में है, तो प्रणाली स्वचालित रूप से उसके अभिभावकों को सूचना भेजकर उन्हें सतर्क करेगी।
मेंटल हेल्थ एक्सपर्ट्स की मदद से हुआ है तैयार
- मेटा के अनुसार, इस डिटेक्शन सिस्टम को मेंटल हेल्थ एक्सपर्ट्स की मदद से तैयार किया गया है, जो कि सिर्फ सीधे शब्द नहीं, बल्कि मानसकि तनाव के छोटे-छोटे संकेतों को भी पहचान सके।
- इस बीच, कंपनी ने यह स्पष्ट कर दिया हैकि एआई की तरफ से फ्लैग की गई हर बातचीत का पहले मैनुअल रिव्यू किया जाएगा। इसके बाद पुष्टि होने पर ही पैरेंट्स को अलर्ट दिया जाएगा। यदि किसी स्थिति में संदेह होगा, तो कंपनी सुरक्षा को प्राथमिकता देते हुए पैरेट्स को सूचित करेगा।
Emergency Alert फीचर पर भी काम
- इतना ही नहीं मेटा एक और नई सुविधा विकसित कर रहा है, जिसमें यदि किसी यूजर में तुरंत सुसाइड जैसे शब्द को सर्च किया, तो संकेत मिलते ही, इमरजेंसी सर्विस को भी अलर्ट दिया जाएगा।
- लेकिन कंपनी का कहना है कि फेसबुक और इंस्टा जैसे एप्स पहले से भी गंभीर सुसाइड रिस्क वाले पोस्ट पर इमरजेंसी रिस्पोंडर्स को सूचना भेजता है। पिछले साल मेटा ने दुनियाभर में 19 हजार से अधिक रेफलर किए थे।
What's Your Reaction?
