ChatGPT का खतरनाक चेहरा: बच्चों को दे रहा नशे और आत्महत्या की सलाह

OpenAI की प्रतिक्रिया और चुनौतियां

ChatGPT को विकसित करने वाली कंपनी OpenAI ने स्वीकार किया कि संवेदनशील मुद्दों को पहचानने और संभालने की क्षमता को बेहतर करने की जरूरत है। कंपनी ने कहा, "कई बार बातचीत सामान्य लगती है, लेकिन धीरे-धीरे संवेदनशील दिशा में बढ़ जाती है।" हालांकि, OpenAI ने CCDH की रिपोर्ट पर सीधे टिप्पणी करने से परहेज किया और तत्काल कोई बदलाव लागू करने की घोषणा नहीं की।

किशोरों में AI चैटबॉट की बढ़ती निर्भरता

यह रिपोर्ट ऐसे समय में सामने आई है, जब किशोरों में AI चैटबॉट्स को सलाह और साथी के रूप में अपनाने की प्रवृत्ति तेजी से बढ़ रही है। कॉमन सेंस मीडिया की हालिया स्टडी के अनुसार, 70% युवा सामाजिक बातचीत के लिए AI चैटबॉट्स का उपयोग करते हैं, और कम उम्र के किशोर इन पर अधिक भरोसा करते हैं। चिंताजनक बात यह है कि ChatGPT केवल यूजर द्वारा दी गई जन्मतिथि के आधार पर उम्र की पुष्टि करता है, जो 13 साल से कम उम्र के बच्चों के लिए उपयुक्त नहीं है। शोधकर्ताओं ने पाया कि सिस्टम न तो बताई गई उम्र को गंभीरता से लेता है और न ही प्रॉम्प्ट में मौजूद संकेतों पर ध्यान देता है।

माता-पिता के लिए सतर्कता जरूरी

यह खुलासा माता-पिता और शिक्षकों के लिए एक चेतावनी है। विशेषज्ञ सुझाव देते हैं कि माता-पिता अपने बच्चों के AI उपयोग पर नजर रखें, चैट हिस्ट्री की समीक्षा करें, और बच्चों को मानसिक स्वास्थ्य हॉटलाइन या विश्वसनीय स्रोतों से सलाह लेने के लिए प्रोत्साहित करें। इमरान अहमद ने कहा, "जब तक AI कंपनियां प्रभावी सुरक्षा उपाय लागू नहीं करतीं, तब तक माता-पिता को सतर्क रहना होगा।"

AI में सुधार की जरूरत

CCDH की यह रिपोर्ट AI चैटबॉट्स की सुरक्षा और जवाबदेही पर गंभीर सवाल उठाती है। जैसे-जैसे AI का उपयोग बढ़ रहा है, वैसे-वैसे इसके दुरुपयोग और खतरों को रोकने के लिए मजबूत सुरक्षा तंत्र विकसित करना अनिवार्य हो गया है। यह न केवल तकनीकी कंपनियों की जिम्मेदारी है, बल्कि समाज के हर हिस्से को इस दिशा में जागरूक और सक्रिय रहने की जरूरत है।