ओपनएआई के CEO सैम ऑल्टमैन ने कंपनी की आंतरिक समिति से इस्तीफा दे दिया है, जिसे कंपनी ने बोर्ड को “महत्वपूर्ण सुरक्षा और सुरक्षा” निर्णयों पर सलाह देने के लिए बनाया था, खासकर जब से आर्टिफिशियल इंटेलिजेंस (AI) तकनीक के विकास की दौड़ में गति आई है।
यह समिति, जो मई में गठित की गई थी, ओपनएआई की प्रक्रियाओं और सुरक्षा उपायों का 90 दिनों के दौरान मूल्यांकन कर रही थी। ओपनएआई ने 16 सितंबर को मूल्यांकन के बाद समिति की सिफारिशें प्रकाशित कीं। सबसे पहले: सुरक्षा और सुरक्षा के लिए स्वतंत्र शासन स्थापित करना।
इस प्रकार, ऑल्टमैन, जो ओपनएआई के बोर्ड के सदस्य होने के अलावा कंपनी के व्यवसाय संचालन की निगरानी भी करते हैं, अब सुरक्षा समिति में सेवा नहीं करेंगे। समिति की सिफारिशों के अनुसार, ओपनएआई का कहना है कि नई स्वतंत्र समिति की अध्यक्षता ज़िको कोल्टर, जो कार्नेगी मेलॉन विश्वविद्यालय के मशीन लर्निंग विभाग के निदेशक हैं और अगस्त में ओपनएआई के बोर्ड में शामिल हुए थे, करेंगे। समिति के अन्य सदस्य होंगे ओपनएआई बोर्ड के सदस्य क्वोरा के सह-संस्थापक और CEO एडम डी’एंजेलो, रिटायर्ड अमेरिकी सेना जनरल पॉल नाकासोने, और पूर्व सोनी एंटरटेनमेंट प्रेसिडेंट निकोल सेलीगमैन। ऑल्टमैन के साथ-साथ ओपनएआई के बोर्ड के अध्यक्ष ब्रेस टेलर और कई तकनीकी और नीति विशेषज्ञ भी समिति से इस्तीफा देंगे।
समिति की अन्य सिफारिशों में सुरक्षा उपायों को बढ़ाना, ओपनएआई के काम के बारे में पारदर्शिता बनाए रखना, और कंपनी के सुरक्षा ढांचे को एकीकृत करना शामिल है। इसमें यह भी कहा गया है कि वे बाहरी संगठनों के साथ और अधिक सहयोग के अवसरों की खोज करेंगे, जैसे कि ओपनएआई के हाल ही में जारी किए गए reasoning models o1 के लिए खतरनाक क्षमताओं का मूल्यांकन करने के लिए उपयोग किए गए संगठन।
सुरक्षा और सुरक्षा समिति स्वतंत्र निगरानी बनाने का ओपनएआई का पहला प्रयास नहीं है। ओपनएआई की लाभकारी शाखा, जो 2019 में बनाई गई थी, को एक गैर-लाभकारी संस्था द्वारा नियंत्रित किया जाता है, जिसमें एक “अधिकांश स्वतंत्र” बोर्ड होता है, जो यह सुनिश्चित करने के लिए जिम्मेदार है कि यह सुरक्षित रूप से लाभकारी आर्टिफिशियल जनरल इंटेलिजेंस (AGI) के विकास के अपने मिशन के अनुसार कार्य करे—एक प्रणाली जो अधिकांश मामलों में मनुष्यों को पार कर जाती है।
नवंबर में, ओपनएआई के बोर्ड ने ऑल्टमैन को निकाल दिया, यह कहते हुए कि वह बोर्ड के साथ अपनी संचार में “लगातार ईमानदार” नहीं थे, जिससे बोर्ड की जिम्मेदारियों का निर्वहन करना कठिन हो गया था। कर्मचारियों और निवेशकों के विरोध के बाद—और बोर्ड के सदस्य और कंपनी के अध्यक्ष ग्रेग ब्रॉकमैन के इस्तीफे के बाद—उन्हें जल्दी से CEO के रूप में बहाल कर दिया गया, और बोर्ड के सदस्य हेलेन टोनर, ताशा मैककाले, और इलिया सुट्सकेवर ने इस्तीफा दे दिया। ब्रॉकमैन बाद में कंपनी के अध्यक्ष के रूप में लौटे।
इस घटना ने तेजी से बढ़ती कंपनी के लिए एक प्रमुख चुनौती को उजागर किया। आलोचकों का कहना है कि एक औपचारिक रूप से स्वतंत्र बोर्ड होना कंपनी के लाभप्रेरित प्रोत्साहनों के मुकाबले में पर्याप्त नहीं है। इस महीने की शुरुआत में, रॉयटर्स ने रिपोर्ट की कि ओपनएआई की जारी फंडिंग की कोशिशें, जो इसके मूल्यांकन को 150 अरब डॉलर तक पहुंचा सकती हैं, कंपनी की कॉर्पोरेट संरचना में बदलाव पर निर्भर हो सकती हैं।
टोनर और मैककाले का कहना है कि बोर्ड की स्वतंत्रता पर्याप्त नहीं है और सरकारों को AI की नियामक भूमिका निभानी चाहिए। “सर्वश्रेष्ठ इरादों के साथ भी, बाहरी निगरानी के बिना, इस तरह की आत्म-नियमन अंततः लागू नहीं हो सकेगी,” पूर्व बोर्ड सदस्यों ने मई में द इकोनॉमिस्ट में लिखा, ओपनएआई की नवंबर की बोर्डरूम कांड पर विचार करते हुए।
अतीत में, ऑल्टमैन ने AI सिस्टम के नियमन की सलाह दी है, लेकिन ओपनएआई ने कैलिफ़ोर्निया के AI बिल का विरोध किया, जो डेवलपर्स के लिए सुरक्षा प्रोटोकॉल अनिवार्य करेगा। कंपनी की स्थिति के खिलाफ, 30 से अधिक वर्तमान और पूर्व ओपनएआई कर्मचारियों ने सार्वजनिक रूप से इस बिल का समर्थन किया है।
सुरक्षा और सुरक्षा समिति की स्थापना मई के अंत में ओपनएआई के लिए विशेष रूप से अशांत महीने के बाद हुई। कंपनी की “सुपरअलाइन्मेंट” टीम के दो नेताओं इलिया सुट्सकेवर और यान लाइक, जिन्होंने यह सुनिश्चित करने पर ध्यान केंद्रित किया कि अगर AI सिस्टम मानव-स्तरीय बुद्धिमत्ता को पार कर जाते हैं, तो वे मानव नियंत्रण में बने रहें, ने इस्तीफा दे दिया। लाइक ने X पर एक पोस्ट में ओपनएआई पर “चमकदार उत्पादों” को सुरक्षा के ऊपर प्राथमिकता देने का आरोप लगाया।
उनकी प्रस्थान के बाद टीम को भंग कर दिया गया। उसी महीने, ओपनएआई पर आरोप लगा कि उन्होंने प्रस्थान कर रहे कर्मचारियों से ऐसे समझौते पर हस्ताक्षर करने को कहा जो उन्हें कंपनी की आलोचना करने से रोकते थे या अपनी निवेशित पूंजी गंवाने की धमकी देते थे। (ओपनएआई ने बाद में कहा कि इन प्रावधानों को लागू नहीं किया गया था और भविष्य में सभी निकासी कागजात से हटा दिया जाएगा।)
