OpenAI के सेफ्टी एक्सपर्ट डेविड रॉबिन्सन ने इस्तीफा दिया, AI विकास की तेज रफ्तार और सुरक्षा व्यवस्था पर उठाए गंभीर सवाल
रॉबिन्सन ने कहा कि एक AI मॉडल के लॉन्च के बाद तेजी से दूसरे मॉडल के विकास और लॉन्च की ओर बढ़ने से सुरक्षा के लिए जरूरी समय और ध्यान प्रभावित हो सकता है। उनका मानना है कि AI विकसित करने वाली कंपनियों को तकनीक को बेहतर बनाने के साथ उसकी सुरक्षा को भी समान प्राथमिकता देनी चाहिए। उन्होंने OpenAI की तेजी से काम करने और बाद में समस्याएं ठीक करने वाली कार्यशैली को भी जोखिमपूर्ण बताया।
अपने लेख में रॉबिन्सन ने उन पूर्व कर्मचारियों की चिंताओं से सहमति जताई, जो मानते हैं कि AI तकनीक विकसित करने वाली कंपनियां पर्याप्त सावधानी नहीं बरत रही हैं। उनके अनुसार, लगातार नए मॉडल और लॉन्च की दिशा में आगे बढ़ते रहने के दौरान वह सावधानी बनाए रखना मुश्किल हो सकता है, जिसकी AI सुरक्षा के लिए आवश्यकता है।
रॉबिन्सन ने AI कंपनियों के काम करने के तरीके में अधिक विनम्रता और सावधानी की जरूरत बताई। उनका कहना है कि अत्यधिक आत्मविश्वास के साथ काम करने वाले लोगों के लिए इस तरह की सावधानी रखना स्वाभाविक रूप से कठिन हो सकता है। इसी वजह से AI विकास की गति और सुरक्षा के बीच संतुलन बनाए रखने को उन्होंने महत्वपूर्ण बताया।
AI के भविष्य को लेकर भी रॉबिन्सन ने चिंता जाहिर की। उन्होंने कहा कि ऐसा वातावरण ऐसे AI सिस्टम विकसित करने के लिए उचित नहीं है, जो भविष्य में इंसानों से अधिक बुद्धिमान या सक्षम हो सकते हैं। उनकी चिंता यह है कि अधिक सक्षम AI मॉडल हमेशा वही काम करें, जो इंसान उनसे करवाना चाहते हैं, यह जरूरी नहीं है। इसलिए ऐसे सिस्टम विकसित करने से पहले उनकी सुरक्षा पर अधिक ध्यान देने की आवश्यकता है।
रॉबिन्सन ने AI कंपनियों के लिए दो प्रमुख बदलावों की जरूरत बताई। उनके अनुसार, AI क्षेत्र को दूसरे क्षेत्रों में मौजूद सुरक्षा विशेषज्ञता और अनुभव से सीखना चाहिए। साथ ही, आज के AI मॉडल से कहीं अधिक सक्षम सिस्टम तैयार करने से पहले नई वैज्ञानिक समझ विकसित करनी जरूरी है। इसका उद्देश्य यह सुनिश्चित करना होना चाहिए कि ज्यादा सक्षम AI सिस्टम इंसानी निगरानी के बिना भी सुरक्षित फैसले ले सकें।
रॉबिन्सन की आलोचनाओं के जवाब में OpenAI ने कहा है कि वह बाहरी विशेषज्ञों के साथ अपना सहयोग बढ़ा रही है। कंपनी AI मॉडल पर निगरानी की व्यवस्था को भी बेहतर कर रही है, ताकि प्रशिक्षण के दौरान गलत या असुरक्षित व्यवहार का जल्द पता लगाया जा सके। कंपनी के अनुसार, वह ऐसे AI मॉडल विकसित करने पर ध्यान दे रही है जिन्हें सुरक्षित तरीके से नियंत्रित किया जा सके। जरूरत पड़ने पर मॉडल की ट्रेनिंग या विकास को रोकने की बात भी कंपनी ने कही है।
OpenAI की Safety टीम में इससे पहले भी बदलाव हुए हैं। Safety Chief Johannes Heidecke के कंपनी से जाने के अलावा, संवेदनशील जानकारी से जुड़े नियमों के उल्लंघन के मामले में तीन रिसर्चर्स को हटाए जाने की बात भी सामने आई है। ऐसे समय में रॉबिन्सन का इस्तीफा AI मॉडल की क्षमता बढ़ाने की होड़ के साथ सुरक्षा को प्राथमिकता देने की चुनौती को फिर सामने लाता है।
