एआई चैटबॉट में जुड़ा नया टीन मोड, संवेदनशील सामग्री पर रोक के साथ अभिभावकों को मिलेंगे तुरंत सुरक्षा अलर्ट
तकनीकी विशेषज्ञों के अनुसार यह कदम आर्टिफिशियल इंटेलिजेंस के उपयोग को अधिक सुरक्षित और पारदर्शी बनाने की दिशा में अत्यंत महत्वपूर्ण माना जा रहा है। हाल के समय में एआई टूल्स के इस्तेमाल को लेकर दुनिया भर में चिंताएं जताई जा रही थीं, जिसके बाद कंपनी ने सुरक्षा मानकों को मजबूत करते हुए इस नए तंत्र को लागू किया है।
इस नए अपडेट के तहत चैटबॉट में स्वचालित सुरक्षा गार्डरेल्स शामिल किए गए हैं, जो संवेदनशील सामग्री पर तुरंत रोक लगा देंगे। हिंसा, आत्म-हानि, यौन सामग्री और मानसिक स्वास्थ्य को प्रभावित करने वाले अन्य विषयों से जुड़ी बातचीत को इस मोड में पूरी तरह से सीमित कर दिया गया है। यदि कोई उपयोगकर्ता ऐसे किसी संवेदनशील विषय पर संवाद शुरू करने का प्रयास करता है, तो सिस्टम उसे आगे बढ़ने से रोक देगा।
इसके अतिरिक्त नए फीचर में अभिभावकों के लिए विशेष नियंत्रण और नोटिफिकेशन प्रणाली को भी जोड़ा गया है। जिन अभिभावकों ने पैरेंटल कंट्रोल विकल्प चुना है, उन्हें किसी भी उच्च-जोखिम वाली बातचीत या सुरक्षा उल्लंघन की स्थिति में तुरंत अलर्ट भेजा जाएगा। एआई को इस तरह से भी प्रशिक्षित किया गया है कि वह उपयोगकर्ताओं के साथ बातचीत के दौरान कोई मानवीय भावना प्रदर्शित न करे।
शैक्षणिक दृष्टिकोण से भी इस नए बदलाव को काफी अहम माना जा रहा है। अक्सर छात्र अपने स्कूल और कॉलेज के काम के लिए एआई से सीधे उत्तर प्राप्त कर लेते थे। लेकिन नया टीन मोड इस प्रक्रिया में बदलाव लाएगा। यदि चैटबॉट पहचानता है कि उपयोगकर्ता किसी अध्ययन कार्य का उत्तर मांग रहा है, तो वह सीधा उत्तर देने के बजाय विषय से जुड़े सहायक प्रश्न पूछेगा। इससे छात्रों में सोचने और समझने की क्षमता विकसित होगी।
मध्य प्रदेश जैसे राज्यों में भी जहां डिजिटल शिक्षा का विस्तार तेजी से हो रहा है, वहां इस तरह के सुरक्षा फीचर्स का शिक्षकों और अभिभावकों ने स्वागत किया है। शैक्षणिक संस्थानों का मानना है कि इस कदम से छात्रों द्वारा सीधे नकल करने की प्रवृत्ति पर लगाम लगेगी और वे तकनीक का सही इस्तेमाल सीख सकेंगे।
हालांकि इस प्रणाली को लागू करने के साथ ही उपयोगकर्ताओं की सही उम्र पहचानना कंपनी के सामने एक बड़ी चुनौती बना हुआ है। प्लेटफॉर्म के नियमों के तहत न्यूनतम आयु 13 वर्ष तय की गई है, लेकिन कई बार उपयोगकर्ता साइन-अप के दौरान गलत विवरण दर्ज कर देते हैं। कंपनी का दावा है कि वह व्यवहारिक संकेतों की निगरानी के जरिए कम उम्र के खातों की पहचान करने का प्रयास कर रही है।
