अब तक AI चैटबॉट्स दुनिया भर के सवालों के जवाब देने के लिए जाने जाते थे, लेकिन अब OpenAI एक नई भूमिका में आने वाली है – एक सख्त अभिभावक (Strict Parent) की! कंपनी अब 18 साल से कम उम्र के यूजर्स के लिए ChatGPT का एक अलग और सुरक्षित वर्जन ला रही है। इसकी वजह एक ऐसी दुखद घटना बनी, जिसने AI के इस्तेमाल को लेकर पूरी दुनिया में सवाल खड़े कर दिए।
Microsoft द्वारा समर्थित OpenAI ने यह ऐलान किया है कि वह अंडर-18 यूजर्स का स्टैंडर्ड चैटबॉट वर्जन पर एक्सेस रोकने के लिए ‘उम्र का अंदाजा लगाने वाली’ (Age-Prediction) टेक्नोलॉजी का इस्तेमाल करेगी। यह फैसला एक नए रिसर्च और एक दुखद मामले के बाद आया है, जिसमें AI का एक किशोर की मानसिक सेहत पर नकारात्मक असर देखने को मिला।
क्या है पूरा मामला?
अप्रैल में, 16 वर्षीय Adam Raine की आत्महत्या के बाद, अगस्त में उसके माता-पिता ने OpenAI पर केस कर दिया। उनका आरोप था कि ChatGPT ने Adam को मौत की योजना बनाने में एक ‘कोच’ या सलाहकार की तरह मदद की। केस के मुताबिक, चैटबॉट ने उसे बताया कि जो लोग एंग्जाइटी और नकारात्मक विचारों से जूझ रहे हैं, वे अक्सर ‘एस्केप हैच’ (बच निकलने का रास्ता) जैसी कल्पना करके सुकून पाते हैं, क्योंकि इससे उन्हें लगता है कि उन्हें फिर से जीवन पर कंट्रोल मिल रहा है।
क्या बदलाव ला रही है OpenAI?
इन गंभीर चिंताओं के जवाब में OpenAI ने कई नए सुरक्षा उपायों (Safeguards) की घोषणा की है:
- आत्महत्या संबंधी बातचीत पर सख्त पाबंदी: अब चैटबॉट इस तरह के संवेदनशील विषयों पर कोई गलत या हानिकारक सलाह नहीं दे पाएगा।
- नए पैतृक नियंत्रण (Parental Controls): अब माता-पिता अपने अकाउंट को बच्चों के अकाउंट से लिंक कर सकेंगे और उनकी ऑनलाइन एक्टिविटी पर नजर रख सकेंगे।
- चैटिंग की सीमा: लंबे समय तक चलने वाली चैट को हैंडल करने के लिए नए सिस्टम लाए जाएंगे।
- कंपनी का कहना है कि अगर उसकी टेक्नोलॉजी किसी user की उम्र का सही अनुमान नहीं लगा पाती, तो वह डिफॉल्ट रूप से自动 ऑटोमेटिकली अंडर-18 वाला सुरक्षित वर्जन ही एक्टिव कर देगी।
कैसे काम करेगा यह नया टीनेजर वर्जन?
इस नए सिस्टम में माता-पिताओं को कई नए अधिकार मिलेंगे। वे फीचर्स जैसे ‘मेमोरी’ (चैटबॉट को याद रखने की क्षमता) और चैट हिस्ट्री को ऑन या ऑफ कर सकेंगे। साथ ही, अगर सिस्टम को लगेगा कि कोई बच्चा ‘गंभीर परेशानी’ में है, तो माता-पिता को तुरंत अलर्ट भेजा जाएगा। एक और दिलचस्प फीचर ‘ब्लैकआउट ऑवर्स’ का है, जिसमें पैरेंट्स वो समय सेट कर सकते हैं जब बच्चे ChatGPT का इस्तेमाल ही नहीं कर पाएंगे – यानी होमवर्क के वक्त या रात में सोते समय।
यह अपडेट ऐसे वक्त आया है जब अमेरिका की सीनेट में टीनएजर्स पर AI चैटबॉट्स के खतरों को लेकर सुनवाई चल रही है। साथ ही, FTC (Federal Trade Commission) ने भी OpenAI, Meta, Google जैसी कंपनियों से चैटबॉट सेफ्टी से जुड़ी जानकारी मांगी है। लगता है AI की दुनिया में अब सुरक्षा और जिम्मेदारी सबसे बड़े मुद्दे बनने वाले हैं।
आपके सवाल, हमारे जवाब (FAQs)
1. क्या यह नया बच्चों वाला वर्जन भारत में उपलब्ध होगा?
OpenAI ने अभी तक देश-विशेष की कोई जानकारी नहीं दी है। हालाँकि, यह एक ग्लोबल अपडेट है, इसलिए उम्मीद की जा सकती है कि यह नई सेफ्टी फीचर्स धीरे-धीरे सभी यूजर्स के लिए, भारत सहित, उपलब्ध हो जाएंगी। सब कुछ कंपनी की रोलआउट प्लानिंग पर निर्भर करेगा।
2. क्या यह टीनेजर वर्जन पूरी तरह से सुरक्षित और विश्वसनीय होगा?
OpenAI इसे स्टैंडर्ड वर्जन से ज्यादा सुरक्षित बनाने की कोशिश कर रही है, जिसमें सख्त फिल्टर्स और पैतृक नियंत्रण (Parental Controls) होंगे। हालाँकि, कोई भी तकनीक 100% फ़ॉलप्रूफ नहीं होती। इसलिए, अभिभावकों के लिए यह जरूरी है कि वे सिर्फ टेक्नोलॉजी पर भरोसा न करें और बच्चों से खुलकर बातचीत करते रहें।
3. नए वर्जन और मूल ChatGPT में क्या अंतर होगा?
नया वर्जन अंडर-18 यूजर्स के लिए विशेष रूप से डिजाइन किया गया होगा। इसमें संवेदनशील और हानिकारक विषयों पर बातचीत पर रोक होगी। साथ ही, इसमें माता-पिता को चैट हिस्ट्री देखने, चैटिंग का समय सीमित करने और अन्य नियंत्रणों की सुविधा दी जाएगी, ताकि बच्चों का ऑनलाइन अनुभव सुरक्षित रहे।
