एंथ्रोपिक सीईओ डारियो अमोदेई ने संवैधानिक ए.आई. पर चर्चा की

2020 के अंत में, डारियो अमोदेई ने ओपनएआई में एक इंजीनियर के रूप में अपनी भूमिका छोड़ने का फैसला किया। वह ए.आई. बनाने के लक्ष्य के साथ अपनी खुद की कंपनी शुरू करना चाहता था। ऐसी प्रणालियाँ जो न केवल शक्तिशाली और बुद्धिमान हैं बल्कि मानवीय मूल्यों से भी जुड़ी हैं। अमोदेई, जिन्होंने जीपीटी-2 और जीपीटी-3 के विकास का नेतृत्व किया, जो आज चैटजीपीटी को सशक्त बनाने वाले बड़े भाषा मॉडल के अग्रदूत हैं, ने महसूस किया कि कम्प्यूटेशनल शक्ति और प्रशिक्षण तकनीकों में हालिया सफलताएं ए.आई. नहीं बना रही हैं। सिस्टम सुरक्षित. इसे प्राप्त करने के लिए, उन्होंने सोचा कि एक अलग विधि की आवश्यकता है।

केवल दो वर्षों में, अमोदेई की कंपनी, एंथ्रोपिक ने 1.5 बिलियन डॉलर की फंडिंग जुटाई और हाल ही में मूल्य बिलियन , इसे बीच में बनाना उच्चतम-मूल्यवान ए.आई. स्टार्टअप इस दुनिया में। इसका मुख्य उत्पाद क्लाउड है, जो चैटजीपीटी जैसा ए.आई. है। चैटबॉट जनवरी में जारी किया गया। इस महीने की शुरुआत में, एंथ्रोपिक ने क्लाउड 2 जारी किया, जो एक नया संस्करण है जो अधिक सूक्ष्म तर्क के साथ लंबी प्रतिक्रियाओं का दावा करता है।

हमें सुरक्षित ए.आई. की आवश्यकता क्यों है? मॉडल

भाषा मॉडल में प्रगति पर चर्चा करते समय अमोदेई को रॉकेट की सादृश्यता पसंद है: डेटा और कम्प्यूटेशनल शक्ति ईंधन और इंजन हैं, और सुरक्षा मुद्दा एक अंतरिक्ष यान को चलाने जैसा है। एक शक्तिशाली इंजन और ढेर सारा ईंधन एक बड़े अंतरिक्ष यान को अंतरिक्ष में लॉन्च कर सकता है, लेकिन वे जहाज को सही दिशा में ले जाने में बहुत कम काम करते हैं। यही तर्क ए.आई. के प्रशिक्षण पर भी लागू होता है। सिस्टम.

“यदि आप पाठ के एक बड़े संग्रह से एक मॉडल को प्रशिक्षित करते हैं, तो आपको वह मिलता है जिसे आप इस बहुत ही स्मार्ट, बहुत ही ज्ञानपूर्ण चीज़ के रूप में वर्णित कर सकते हैं जो निराकार है, जिसका दुनिया के बारे में कोई विशेष दृष्टिकोण नहीं है, कोई विशेष कारण नहीं है कि इसे इसके बजाय एक बात क्यों कहनी चाहिए एक और,'' अमोदेई ने कल (13 जुलाई) शिकागो में अटलांटिक के प्रोग्रेस समिट में एक फायरसाइड चैट के दौरान कहा।

ए.आई. होना मानवीय मूल्यों को समझने वाली प्रणालियाँ तेजी से महत्वपूर्ण होंगी क्योंकि प्रौद्योगिकी की क्षमताओं के साथ-साथ जोखिम भी बढ़ रहे हैं।

चैटजीपीटी और इसी तरह के टूल के डेवलपर्स और उपयोगकर्ता पहले से ही चैटबॉट्स की कभी-कभी तथ्यात्मक रूप से गलत या नापाक उत्तर उत्पन्न करने की क्षमता के बारे में चिंतित हैं। लेकिन कुछ ही वर्षों में, ए.आई. सिस्टम न केवल अधिक विश्वसनीय झूठी कहानियाँ बनाने के लिए पर्याप्त स्मार्ट हो सकते हैं, बल्कि विज्ञान और जीव विज्ञान जैसे गंभीर क्षेत्रों में भी बातें बनाने में सक्षम हो सकते हैं।

“हम उस बिंदु पर पहुंच रहे हैं, जहां दो से तीन वर्षों में, शायद मॉडल विज्ञान और इंजीनियरिंग के व्यापक क्षेत्रों में रचनात्मक चीजें करने में सक्षम होंगे। यह जीव विज्ञान या प्रतिबंधित परमाणु सामग्री का दुरुपयोग हो सकता है, ”अमोदेई ने कहा। 'हमें आगे देखने और इन जोखिमों से निपटने की बहुत ज़रूरत है।'

एंथ्रोपिक का 'संवैधानिक ए.आई.' तरीका

ए.आई. इसे अक्सर 'ब्लैक बॉक्स' तकनीक के रूप में वर्णित किया जाता है जहां कोई नहीं जानता कि यह कैसे काम करता है। लेकिन एंथ्रोपिक ए.आई. बनाने की कोशिश कर रहा है। ऐसी प्रणालियाँ जिन्हें मनुष्य समझ और नियंत्रित कर सकते हैं। इसका दृष्टिकोण वह है जिसे अमोदेई कहते हैं संवैधानिक ए.आई.

उद्योग-मानक प्रशिक्षण पद्धति के विपरीत, जिसमें चैटबॉट्स से हानिकारक आउटपुट को सुधारने के लिए उन्हें पहचानने और लेबल करने के लिए मानवीय हस्तक्षेप शामिल है, संवैधानिक ए.आई. आत्म-सुधार के माध्यम से प्रशिक्षण मॉडल पर ध्यान केंद्रित करता है। हालाँकि, इस पद्धति को शुरुआत में 'संविधान' या ए.आई. के लिए निर्धारित मूल्यों का एक सेट प्रदान करने के लिए मानवीय निरीक्षण की आवश्यकता होती है। अनुसरण करने योग्य मॉडल.

एंथ्रोपिक के 'संविधान' में संयुक्त राष्ट्र मानवाधिकार घोषणापत्र और विभिन्न तकनीकी कंपनियों की सेवा की शर्तों जैसे स्थापित दस्तावेजों के सार्वभौमिक रूप से स्वीकृत सिद्धांत शामिल हैं।

अमोदेई ने एंथ्रोपिक की प्रशिक्षण पद्धति का वर्णन इस प्रकार किया, 'हम इन सिद्धांतों को लेते हैं और हम एक बॉट से सिद्धांतों के जवाब में जो कुछ भी करने जा रहे हैं उसे करने के लिए कहते हैं। फिर हम यह जांचने के लिए बॉट की एक और प्रति लेते हैं कि पहले बॉट ने जो किया वह सिद्धांतों के अनुरूप था या नहीं। यदि नहीं, तो आइए इसे नकारात्मक प्रतिक्रिया दें। इसलिए बॉट इस लूप में बॉट को सिद्धांतों के साथ और अधिक संरेखित होने के लिए प्रशिक्षित कर रहा है।

भुगतान किए बिना चार्ज-ऑफ कैसे निकालें

'हमें लगता है कि यह ए.आई. के मूल्यों को आकार देने का एक अधिक पारदर्शी और प्रभावी तरीका है। प्रणाली, ”अमोदेई ने कहा।

हालाँकि, ए.आई. की एक मूलभूत कमी। मॉडल यह है कि वे कभी भी परिपूर्ण नहीं होंगे। अमोदेई ने कहा, 'यह कुछ-कुछ सेल्फ-ड्राइविंग जैसा है।' “आप इसकी गारंटी नहीं दे पाएंगे कि यह कार कभी दुर्घटनाग्रस्त नहीं होगी। मुझे उम्मीद है कि हम यह कहने में सक्षम होंगे कि 'यह कार कार चलाने वाले इंसान की तुलना में बहुत कम दुर्घटनाग्रस्त होती है, और जब भी यह चलती है तो यह अधिक सुरक्षित हो जाती है।'