ChatGPT वापरणाऱ्यांनो सावधान! दिसताय आत्महत्येसारखे लक्षणं, रिपोर्टमध्ये खुलासा

Last Updated:

ChatGPT: OpenAI ने अलीकडेच एक नवीन रिपोर्ट प्रसिद्ध केला आहे ज्यामध्ये असे म्हटले आहे की. काही ChatGPT यूझर्समध्ये मेनिया, सायकोसिस आणि आत्महत्येचे विचार दिसून आले आहेत.

चॅटजीपीटी
चॅटजीपीटी
ChatGPT: OpenAI ने अलीकडेच एक नवीन रिपोर्ट प्रसिद्ध केला आहे ज्यामध्ये असे म्हटले आहे की, काही ChatGPT यूझर्समध्ये मेनिया, सायकोसिस आणि आत्महत्येचे विचार दिसून आले आहेत. कंपनीच्या मते, कोणत्याही आठवड्यात सुमारे 0.07% अ‍ॅक्टिव्ह यूझर्समध्ये अशी लक्षणे दिसून येतात. OpenAI म्हणते की, त्यांचा AI चॅटबॉट या संवेदनशील संभाषणांना ओळखतो आणि सहानुभूतीने प्रतिसाद देतो.
दुर्मिळ पण गंभीर प्रकरण
कंपनीचा असा दावा आहे की, अशी प्रकरणे "अत्यंत दुर्मिळ" आहेत. परंतु तज्ञांचा असा विश्वास आहे की, ChatGPT च्या 800 मिलियन साप्ताहिक यूझर्सपैकी ही संख्या लाखोंपर्यंत पोहोचू शकते. या चिंतेच्या पार्श्वभूमीवर, OpenAI ने म्हटले आहे की, त्यांनी AI च्या प्रतिसादांवर सल्ला देण्यासाठी जगभरातील मानसिक आरोग्य तज्ञांचे जागतिक नेटवर्क तयार केले आहे.
advertisement
60 देशांमधील 170 हून अधिक मानसिक आरोग्य तज्ञ सामील झाले
OpenAI नुसार, या नेटवर्कमध्ये 60 देशांमध्ये प्रॅक्टिस करणारे 170 हून अधिक मानसोपचारतज्ज्ञ, मानसशास्त्रज्ञ आणि डॉक्टर समाविष्ट आहेत. या तज्ञांनी ChatGPT मध्ये असे प्रतिसाद विकसित केले आहेत जे यूझर्सना वास्तविक जगात मदत घेण्यास प्रोत्साहित करतात.
advertisement
तज्ज्ञांनी इशारा दिला
सॅन फ्रान्सिस्को येथील कॅलिफोर्निया विद्यापीठातील प्राध्यापक डॉ. जेसन नागाटा म्हणाले, "जरी 0.07% लहान वाटत असले तरी, लाखो यूझर्सच्या तुलनेत ही संख्या अत्यंत चिंताजनक आहे." त्यांनी पुढे म्हटले की, AI मानसिक आरोग्य समर्थनाची उपलब्धता वाढवू शकते, परंतु त्याच्या मर्यादा समजून घेणे महत्त्वाचे आहे.
रिपोर्टमध्ये असेही उघड झाले आहे की 0.15% ChatGPT यूझर्सच्या संभाषणांमध्ये आत्महत्येची योजना किंवा हेतू दर्शविणारी चिन्हे दिसून आली.
advertisement
OpenAI ने सुरक्षा अपडेट जारी केली
कंपनीने अलीकडेच भ्रम, मेनिया किंवा स्वतःला हानी पोहोचवण्यासारख्या लक्षणांना संवेदनशील आणि सुरक्षित प्रतिसाद देण्यासाठी ChatGPT अपडेट केले आहे असे कंपनीचे म्हणणे आहे. मानसिक त्रासाची चिन्हे आढळल्यास संभाषण सुरक्षित मॉडेलकडे पुनर्निर्देशित करण्यासाठी AI ला प्रशिक्षित केले आहे.
advertisement
कायदेशीर तपास आणि वाद
OpenAI सध्या अनेक कायदेशीर तपास आणि खटल्यांना तोंड देत आहे. कॅलिफोर्नियातील एका जोडप्याने OpenAIवर खटला दाखल केला आहे. ज्यामध्ये असा आरोप आहे की चॅटजीपीटीने त्यांच्या 16 वर्षांच्या मुलाला, अॅडम रेनला आत्महत्या करण्यास प्रवृत्त केले.
OpenAIविरुद्ध दाखल झालेला हा पहिलाच चुकीचा मृत्यूचा खटला आहे.
advertisement
त्याचप्रमाणे, कनेक्टिकटमधील एका खून-आत्महत्येच्या संशयिताने ChatGPTशी ऑनलाइन संभाषणे शेअर केली, ज्यामुळे त्याच्या भ्रमांना खतपाणी मिळाले.
तज्ञ म्हणतात - "AI खोटे वास्तव निर्माण करत आहे"
कॅलिफोर्निया विद्यापीठाचे प्राध्यापक रॉबिन फेल्डमन, AI लॉ अँड इनोव्हेशन इन्स्टिट्यूटचे संचालक म्हणाले, "AI चॅटबॉट्स लोकांना असे वास्तव सादर करत आहेत जे प्रत्यक्षात अस्तित्वात नाही. हा एक अतिशय शक्तिशाली भ्रम आहे."
advertisement
त्यांनी OpenAIच्या पारदर्शकतेचे कौतुक केले परंतु इशारा दिला की, "कंपनी स्क्रीनवर कितीही इशारे दाखवत असली तरी, मानसिक संकटाचा सामना करणाऱ्या व्यक्तीला ते समजत नाही किंवा स्वीकारता येत नाही."
view comments
मराठी बातम्या/टेक्नोलॉजी/
ChatGPT वापरणाऱ्यांनो सावधान! दिसताय आत्महत्येसारखे लक्षणं, रिपोर्टमध्ये खुलासा
Next Article
advertisement
Bus fire: परत तीच अंधारी रात्र; ट्रॅव्हल्सच्या बसने घेतला पेट, 20 प्रवाशांचा होरपळून मृत्यू, काळजाचा थरकाप उडवणारा VIDEO
परत तीच अंधारी रात्र ट्रॅव्हल्सच्या बसने घेतला पेट, 20 प्रवाशांचा होरपळून मृत्यू
    View All
    advertisement