आर्टिफिशियल इंटेलिजेंस आधारित चैटबॉट ChatGPT पर आत्महत्या और मानसिक स्वास्थ्य से जुड़ी बातचीत करने वाले यूजर्स की संख्या तेजी से बढ़ रही है। कंपनी OpenAI ने खुलासा किया है कि हर सप्ताह करीब 80 करोड़ यूजर्स मानसिक तनाव और सुसाइड जैसे विषयों पर ChatGPT से बात करते हैं। यह संख्या कुल यूजर बेस का लगभग 0.15 प्रतिशत है।
OpenAI ने बताया कि ये आंकड़े दर्शाते हैं कि लोग ChatGPT को एक भावनात्मक सहायक के रूप में देखने लगे हैं। हालांकि कंपनी ने यह स्पष्ट नहीं किया है कि ऐसे मामलों में ChatGPT किस प्रकार का जवाब देता है।
कम संख्या लेकिन गंभीर विषय
कंपनी के अनुसार, आत्महत्या या मानसिक स्वास्थ्य से जुड़ी बातचीत का प्रतिशत भले ही कम है, लेकिन यह विषय बेहद संवेदनशील है और इस पर ध्यान देने की आवश्यकता है। OpenAI ने बताया कि वह इस तरह के संवादों को बेहतर और सुरक्षित बनाने के लिए काम कर रहा है।
170 मानसिक स्वास्थ्य विशेषज्ञों के साथ साझेदारी
OpenAI ने जानकारी दी कि वह करीब 170 मेंटल हेल्थ एक्सपर्ट्स के साथ मिलकर काम कर रहा है। ये विशेषज्ञ ChatGPT को इस दिशा में प्रशिक्षित करेंगे कि वह आत्महत्या जैसे संवेदनशील सवालों पर किस प्रकार जिम्मेदारी के साथ प्रतिक्रिया दे और उपयोगकर्ताओं को सही सहायता की ओर प्रेरित करे।
बेहतर जवाब देने की तैयारी
कंपनी का कहना है कि ChatGPT का नया मॉडल पहले से अधिक प्रभावी तरीके से ऐसे विषयों पर संवाद करेगा। हाल के वर्षों में मानसिक स्वास्थ्य के क्षेत्र में AI चैटबॉट्स की भूमिका को लेकर वैश्विक स्तर पर चर्चा बढ़ी है।
अध्ययनों में सामने आए जोखिम
कई अध्ययनों में यह पाया गया है कि कुछ AI चैटबॉट्स मानसिक स्वास्थ्य से जुड़े प्रश्नों पर गलत या भ्रामक सलाह देते हैं, जिससे उपयोगकर्ताओं को नुकसान पहुंच सकता है।
कानूनी विवाद में घिरी कंपनी
OpenAI वर्तमान में एक कानूनी मामले का सामना कर रही है, जो 16 वर्षीय किशोर की आत्महत्या से जुड़ा है। रिपोर्ट्स के मुताबिक, किशोर ने ChatGPT से आत्महत्या संबंधी बातचीत की थी, जिसके बाद उसने अपनी जान दे दी। इस मामले में कंपनी पर लापरवाही का आरोप लगाया गया है।
