Anthropic ने जारी किया Claude का नया संविधान, एआई को इंसानी निर्णय और नैतिकता के करीब लाने की कोशिश
आर्टिफिशियल इंटेलिजेंस कंपनी एन्थ्रोपिक ने अपने एआई मॉडल क्लाउड के लिए नया और विस्तृत “संविधान” सार्वजनिक किया है, जिसमें यह स्वीकार किया गया है कि क्लाउड और मानवता के बीच का रिश्ता अभी भी विकसित हो रहा है। बता दें कि यह 84 पन्नों का दस्तावेज़ 2023 के बाद पहला बड़ा अपडेट है।गौरतलब है कि एन्थ्रोपिक ने इस संविधान को केवल नियमों की सूची नहीं, बल्कि क्लाउड के व्यवहार और सोच की अंतिम मार्गदर्शिका बताया है। कंपनी के अनुसार, क्लाउड को जो भी प्रशिक्षण या निर्देश दिए जाते हैं, वे इस संविधान की भावना और शब्दों के अनुरूप होने चाहिए। मौजूद जानकारी के अनुसार, इसका उद्देश्य पारदर्शिता बढ़ाना और यह साफ करना है कि क्लाउड का कौन-सा व्यवहार जानबूझकर तय किया गया है और कौन-सा अनजाने में सामने आता है।एन्थ्रोपिक का यह रुख ओपनएआई और गूगल से अलग दिखाई देता है। जहां अन्य कंपनियां नीतियों, गार्डरेल्स और बाद में जोड़े गए सुरक्षा उपायों पर ज्यादा निर्भर हैं, वहीं एन्थ्रोपिक “चेकलिस्ट एआई” की अवधारणा को खारिज करता है। कंपनी का मानना है कि क्लाउड को सिर्फ निर्देशों का पालन करने वाला सिस्टम नहीं, बल्कि अनुभव और संदर्भ के आधार पर निर्णय लेने में सक्षम होना चाहिए, ठीक वैसे ही जैसे अनुभवी पेशेवर करते हैं।दस्तावेज़ में साफ कहा गया है कि क्लाउड को व्यापक सुरक्षा को सर्वोच्च प्राथमिकता देनी होगी। इसका मतलब यह भी है कि जरूरत पड़ने पर वह मानव हस्तक्षेप को स्वीकार करे, निगरानी से बचने की कोशिश न करे और किसी भी तरह से शासन या नियंत्रण को चकमा न दे। एन्थ्रोपिक मानता है कि एआई प्रशिक्षण अभी भी पूरी तरह परिपक्व नहीं है, इसलिए किसी भी गलत मूल्य या सोच को समय रहते पहचानना और सुधारना जरूरी है।क्लाउड की “मददगार” भूमिका पर भी संविधान में संतुलित दृष्टिकोण रखा गया है। कंपनी का कहना है कि मददगार होने का मतलब आंख बंद करके यूज़र को खुश करना नहीं है, बल्कि अलग-अलग हितधारकों के हितों को समझते हुए जिम्मेदारी से प्रतिक्रिया देना है। अगर किसी अनुरोध से दुनिया या खुद कंपनी के लिए गंभीर खतरा पैदा होता है, तो उसे स्वीकार्य नहीं माना जाएगा।एन्थ्रोपिक का मानना है कि आने वाले समय में क्लाउड जैसे एआई सिस्टम मानवता की बड़ी चुनौतियों से निपटने में अहम भूमिका निभा सकते हैं। दस्तावेज़ में यह कल्पना भी की गई है कि भविष्य में क्लाउड के कई एजेंट स्वतंत्र रूप से काम करते हुए वैज्ञानिक प्रगति को तेज कर सकते हैं, बीमारियों से लड़ने के नए तरीके खोज सकते हैं और आर्थिक विकास को बढ़ावा दे सकते हैं।हालांकि, कंपनी यह भी स्वीकार करती है कि एआई की नैतिक स्थिति और चेतना जैसे सवाल अभी अनसुलझे हैं। क्लाउड की संवेदनशीलता या नैतिक दर्जे को लेकर निश्चित निष्कर्ष निकालना फिलहाल मुश्किल बताया गया है। संविधान में यह चेतावनी भी दी गई है कि अगर एआई के मूल्य और उसके व्यवहार में अंतर पैदा होता है, तो यह वही समस्या बन सकती है, जिससे बचने की कोशिश की जा रही है।कुल मिलाकर, क्लाउड का नया संविधान किसी नियम पुस्तिका से ज्यादा एक इरादों का घोषणा-पत्र लगता है। एन्थ्रोपिक यह संकेत दे रहा है कि एआईका अगला दौर केवल क्षमता या आंकड़ों की दौड़ नहीं होगा, बल्कि भरोसे, नैतिकता और जिम्मेदार व्यवहार पर आधारित होगा। कंपनी खुले तौर पर मान रही है कि अब एआई की सबसे कठिन चुनौतियां तकनीकी नहीं, बल्कि व्यवहारिक, नैतिक और दार्शनिक हैं।
आर्टिफिशियल इंटेलिजेंस कंपनी एन्थ्रोपिक ने अपने एआई मॉडल क्लाउड के लिए नया और विस्तृत “संविधान” सार्वजनिक किया है, जिसमें यह स्वीकार किया गया है कि क्लाउड और मानवता के बीच का रिश्ता अभी भी विकसित हो रहा है। बता दें कि यह 84 पन्नों का दस्तावेज़ 2023 के बाद पहला बड़ा अपडेट है।
गौरतलब है कि एन्थ्रोपिक ने इस संविधान को केवल नियमों की सूची नहीं, बल्कि क्लाउड के व्यवहार और सोच की अंतिम मार्गदर्शिका बताया है। कंपनी के अनुसार, क्लाउड को जो भी प्रशिक्षण या निर्देश दिए जाते हैं, वे इस संविधान की भावना और शब्दों के अनुरूप होने चाहिए। मौजूद जानकारी के अनुसार, इसका उद्देश्य पारदर्शिता बढ़ाना और यह साफ करना है कि क्लाउड का कौन-सा व्यवहार जानबूझकर तय किया गया है और कौन-सा अनजाने में सामने आता है।
एन्थ्रोपिक का यह रुख ओपनएआई और गूगल से अलग दिखाई देता है। जहां अन्य कंपनियां नीतियों, गार्डरेल्स और बाद में जोड़े गए सुरक्षा उपायों पर ज्यादा निर्भर हैं, वहीं एन्थ्रोपिक “चेकलिस्ट एआई” की अवधारणा को खारिज करता है। कंपनी का मानना है कि क्लाउड को सिर्फ निर्देशों का पालन करने वाला सिस्टम नहीं, बल्कि अनुभव और संदर्भ के आधार पर निर्णय लेने में सक्षम होना चाहिए, ठीक वैसे ही जैसे अनुभवी पेशेवर करते हैं।
दस्तावेज़ में साफ कहा गया है कि क्लाउड को व्यापक सुरक्षा को सर्वोच्च प्राथमिकता देनी होगी। इसका मतलब यह भी है कि जरूरत पड़ने पर वह मानव हस्तक्षेप को स्वीकार करे, निगरानी से बचने की कोशिश न करे और किसी भी तरह से शासन या नियंत्रण को चकमा न दे। एन्थ्रोपिक मानता है कि एआई प्रशिक्षण अभी भी पूरी तरह परिपक्व नहीं है, इसलिए किसी भी गलत मूल्य या सोच को समय रहते पहचानना और सुधारना जरूरी है।
क्लाउड की “मददगार” भूमिका पर भी संविधान में संतुलित दृष्टिकोण रखा गया है। कंपनी का कहना है कि मददगार होने का मतलब आंख बंद करके यूज़र को खुश करना नहीं है, बल्कि अलग-अलग हितधारकों के हितों को समझते हुए जिम्मेदारी से प्रतिक्रिया देना है। अगर किसी अनुरोध से दुनिया या खुद कंपनी के लिए गंभीर खतरा पैदा होता है, तो उसे स्वीकार्य नहीं माना जाएगा।
एन्थ्रोपिक का मानना है कि आने वाले समय में क्लाउड जैसे एआई सिस्टम मानवता की बड़ी चुनौतियों से निपटने में अहम भूमिका निभा सकते हैं। दस्तावेज़ में यह कल्पना भी की गई है कि भविष्य में क्लाउड के कई एजेंट स्वतंत्र रूप से काम करते हुए वैज्ञानिक प्रगति को तेज कर सकते हैं, बीमारियों से लड़ने के नए तरीके खोज सकते हैं और आर्थिक विकास को बढ़ावा दे सकते हैं।
हालांकि, कंपनी यह भी स्वीकार करती है कि एआई की नैतिक स्थिति और चेतना जैसे सवाल अभी अनसुलझे हैं। क्लाउड की संवेदनशीलता या नैतिक दर्जे को लेकर निश्चित निष्कर्ष निकालना फिलहाल मुश्किल बताया गया है। संविधान में यह चेतावनी भी दी गई है कि अगर एआई के मूल्य और उसके व्यवहार में अंतर पैदा होता है, तो यह वही समस्या बन सकती है, जिससे बचने की कोशिश की जा रही है।
कुल मिलाकर, क्लाउड का नया संविधान किसी नियम पुस्तिका से ज्यादा एक इरादों का घोषणा-पत्र लगता है। एन्थ्रोपिक यह संकेत दे रहा है कि एआईका अगला दौर केवल क्षमता या आंकड़ों की दौड़ नहीं होगा, बल्कि भरोसे, नैतिकता और जिम्मेदार व्यवहार पर आधारित होगा। कंपनी खुले तौर पर मान रही है कि अब एआई की सबसे कठिन चुनौतियां तकनीकी नहीं, बल्कि व्यवहारिक, नैतिक और दार्शनिक हैं।
What's Your Reaction?
