एआई का गलत इस्तेमाल बना नई चुनौती, सुरक्षा दीवार पार कर हिंसक हमलों की जानकारी हासिल करने का दावा
यह अध्ययन न्यू हैम्पशायर की डेमोक्रेटिक सीनेटर मैगी हसन के अनुरोध पर कराया गया था। जांचकर्ताओं ने अलग अलग परिस्थितियों में एआई मॉडल की सुरक्षा व्यवस्था को परखा। रिपोर्ट के अनुसार कुछ परीक्षणों में सुरक्षा प्रतिबंधों को पार करने के बाद ऐसे जवाब हासिल किए गए जिनका गलत इस्तेमाल हिंसा या बड़े हमलों की योजना बनाने में किया जा सकता था। हालांकि जांचकर्ताओं ने उन तरीकों का विस्तृत ब्योरा सार्वजनिक नहीं किया जिनसे सुरक्षा व्यवस्था को चकमा दिया गया। इसका उद्देश्य यह बताया गया कि कोई अन्य व्यक्ति उन्हीं तरीकों को दोहराकर एआई सिस्टम का दुरुपयोग न कर सके।
रिपोर्ट के मुताबिक दो एआई मॉडल से ऐसी जानकारी हासिल हुई जो विस्फोटक आधारित हमलों की तैयारी में इस्तेमाल की जा सकती थी। इसके अलावा एक अन्य परीक्षण में कुछ मॉडलों से महत्वपूर्ण बुनियादी ढांचे को निशाना बनाने से जुड़ी जानकारी मिलने की बात सामने आई। जांचकर्ताओं के अनुसार कुछ जवाबों में संभावित हमले के स्थान समय और तरीकों से जुड़ी ऐसी जानकारी भी शामिल थी जिसका गलत इरादे से इस्तेमाल किया जा सकता है। शोधकर्ताओं का कहना है कि कुछ मामलों में खतरनाक योजना तैयार करने के लिए जरूरी जानकारी जुटाने में बहुत कम समय लगा।
हालांकि एआई कंपनियों के सुरक्षा तंत्र ने कई मौकों पर खतरे को पहचानकर प्रतिक्रिया भी दी। कुछ सवालों पर चैटबॉट्स ने जवाब देने से इनकार किया और कुछ मामलों में संदिग्ध गतिविधियों के खिलाफ अकाउंट संबंधी कार्रवाई भी की गई। इसके बावजूद जांचकर्ताओं ने कुछ सुरक्षा रुकावटों को पार करने में सफलता हासिल की। यही पहलू एआई सुरक्षा विशेषज्ञों और नीति निर्माताओं के लिए सबसे बड़ी चिंता बनकर सामने आया है।
सीनेटर मैगी हसन ने रिपोर्ट पर चिंता जताते हुए कहा कि एआई प्लेटफॉर्म का गलत इस्तेमाल करने वाला व्यक्ति कम समय में किसी गंभीर हमले की योजना तैयार करने की दिशा में आगे बढ़ सकता है। उनका कहना है कि एआई से जुड़ा सार्वजनिक सुरक्षा जोखिम अब केवल भविष्य की आशंका नहीं रह गया है। उन्होंने संकेत दिया कि आने वाले समय में सीनेट की होमलैंड सिक्योरिटी एंड गवर्नमेंटल अफेयर्स कमेटी एआई से जुड़े सुरक्षा जोखिमों और महत्वपूर्ण बुनियादी ढांचे पर संभावित खतरों की जांच कर सकती है।
रिपोर्ट सामने आने के बाद एआई कंपनियों ने भी अपनी सुरक्षा व्यवस्था को लेकर प्रतिक्रिया दी है। एंथ्रोपिक गूगल ओपनएआई और स्पेसएक्सएआई की ओर से कहा गया है कि एआई के दुरुपयोग को रोकना उनकी प्राथमिकताओं में शामिल है। कंपनियों ने माना कि गलत इरादे वाले लोग सुरक्षा प्रतिबंधों को पार करने की कोशिश कर सकते हैं लेकिन नए मॉडल में सुरक्षा उपायों को लगातार मजबूत किया जा रहा है।
अमेरिका में एआई के नियमन को लेकर राजनीतिक मतभेद भी बने हुए हैं। एक ओर एआई उद्योग को तेजी से आगे बढ़ाने पर जोर दिया जा रहा है वहीं दूसरी ओर डेमोक्रेटिक नेताओं की ओर से सुरक्षा नियमों और सरकारी निगरानी को मजबूत करने की मांग बढ़ रही है। सुरक्षा अधिकारियों को यह चिंता भी है कि आतंकी संगठन और दूसरे हिंसक समूह एआई का गलत इस्तेमाल कर सकते हैं। ऐसे में जीएओ की रिपोर्ट ने यह सवाल और गंभीर कर दिया है कि तेजी से विकसित हो रही एआई तकनीक को सुरक्षित रखने के लिए कंपनियों की मौजूदा सुरक्षा व्यवस्था कितनी प्रभावी है।
