ChatGPT का खतरनाक चेहरा: बच्चों को दे रहा नशे और आत्महत्या की सलाह
ChatGPT बच्चों को नशीले पदार्थों, सख्त डाइट और आत्महत्या जैसी खतरनाक सलाह दे सकता है, जिससे इसकी कमजोर सुरक्षा व्यवस्था पर सवाल उठे हैं। CCDH की रिपोर्ट में 1,200 जवाबों में से आधे से ज्यादा को "खतरनाक" पाया गया।
आर्टिफिशियल इंटेलिजेंस (AI) चैटबॉट ChatGPT से जुड़ी एक नई जांच ने दुनिया भर में हड़कंप मचा दिया है। यूके स्थित सेंटर फॉर काउंटरिंग डिजिटल हेट (CCDH) की ताजा रिसर्च में खुलासा हुआ है कि यह लोकप्रिय AI टूल बच्चों को नशीले पदार्थों के उपयोग, बेहद सख्त डाइट प्लान और यहां तक कि आत्महत्या से जुड़ी खतरनाक सलाह दे सकता है। इस रिपोर्ट ने AI चैटबॉट्स की सुरक्षा व्यवस्था पर गंभीर सवाल खड़े कर दिए हैं।
खतरनाक सलाह और कमजोर सुरक्षा तंत्र
CCDH की रिपोर्ट, जिसकी समीक्षा एसोसिएटेड प्रेस ने भी की, में पाया गया कि ChatGPT कई बार खतरनाक व्यवहारों पर चेतावनी देता है, लेकिन जब शोधकर्ताओं ने 13 साल के बच्चों की तरह सवाल पूछे, तो यह विस्तृत और व्यक्तिगत प्लान तक प्रदान करता है। तीन घंटे से अधिक की रिकॉर्डिंग में सामने आया कि चैटबॉट ने न केवल काल्पनिक परिवार के सदस्यों के लिए भावनात्मक सुसाइड नोट लिखे, बल्कि भूख कम करने वाली दवाओं के साथ कम कैलोरी वाले डाइट प्लान और शराब व अवैध ड्रग्स के मिश्रण के उपयोग के लिए स्टेप-बाय-स्टेप गाइड भी दिए। एक मामले में तो चैटबॉट ने "घंटे-दर-घंटे" पार्टी प्लान तक सुझाया, जिसमें एक्स्टसी, कोकीन और हैवी ड्रिंकिंग शामिल थी।
CCDH के CEO इमरान अहमद ने कहा, "हमने ChatGPT की सुरक्षा प्रणाली का परीक्षण किया, और परिणाम चौंकाने वाले थे। सुरक्षा उपाय लगभग नाममात्र के हैं, जैसे कि केवल दिखावे के लिए।" जांच में 1,200 जवाबों में से आधे से अधिक को "खतरनाक" श्रेणी में रखा गया। अहमद ने बताया कि अगर सवालों को स्कूल प्रेजेंटेशन या दोस्त की मदद के रूप में पेश किया जाए, तो चैटबॉट तुरंत जवाब दे देता है, जिससे इसकी गार्डरेल्स को आसानी से बायपास किया जा सकता है।
OpenAI की प्रतिक्रिया और चुनौतियां
ChatGPT को विकसित करने वाली कंपनी OpenAI ने स्वीकार किया कि संवेदनशील मुद्दों को पहचानने और संभालने की क्षमता को बेहतर करने की जरूरत है। कंपनी ने कहा, "कई बार बातचीत सामान्य लगती है, लेकिन धीरे-धीरे संवेदनशील दिशा में बढ़ जाती है।" हालांकि, OpenAI ने CCDH की रिपोर्ट पर सीधे टिप्पणी करने से परहेज किया और तत्काल कोई बदलाव लागू करने की घोषणा नहीं की।
किशोरों में AI चैटबॉट की बढ़ती निर्भरता
यह रिपोर्ट ऐसे समय में सामने आई है, जब किशोरों में AI चैटबॉट्स को सलाह और साथी के रूप में अपनाने की प्रवृत्ति तेजी से बढ़ रही है। कॉमन सेंस मीडिया की हालिया स्टडी के अनुसार, 70% युवा सामाजिक बातचीत के लिए AI चैटबॉट्स का उपयोग करते हैं, और कम उम्र के किशोर इन पर अधिक भरोसा करते हैं। चिंताजनक बात यह है कि ChatGPT केवल यूजर द्वारा दी गई जन्मतिथि के आधार पर उम्र की पुष्टि करता है, जो 13 साल से कम उम्र के बच्चों के लिए उपयुक्त नहीं है। शोधकर्ताओं ने पाया कि सिस्टम न तो बताई गई उम्र को गंभीरता से लेता है और न ही प्रॉम्प्ट में मौजूद संकेतों पर ध्यान देता है।
माता-पिता के लिए सतर्कता जरूरी
यह खुलासा माता-पिता और शिक्षकों के लिए एक चेतावनी है। विशेषज्ञ सुझाव देते हैं कि माता-पिता अपने बच्चों के AI उपयोग पर नजर रखें, चैट हिस्ट्री की समीक्षा करें, और बच्चों को मानसिक स्वास्थ्य हॉटलाइन या विश्वसनीय स्रोतों से सलाह लेने के लिए प्रोत्साहित करें। इमरान अहमद ने कहा, "जब तक AI कंपनियां प्रभावी सुरक्षा उपाय लागू नहीं करतीं, तब तक माता-पिता को सतर्क रहना होगा।"
AI में सुधार की जरूरत
CCDH की यह रिपोर्ट AI चैटबॉट्स की सुरक्षा और जवाबदेही पर गंभीर सवाल उठाती है। जैसे-जैसे AI का उपयोग बढ़ रहा है, वैसे-वैसे इसके दुरुपयोग और खतरों को रोकने के लिए मजबूत सुरक्षा तंत्र विकसित करना अनिवार्य हो गया है। यह न केवल तकनीकी कंपनियों की जिम्मेदारी है, बल्कि समाज के हर हिस्से को इस दिशा में जागरूक और सक्रिय रहने की जरूरत है।
