कित्येक प्रश्नांची उत्तरं देणारा चॅटजीपीटी एका प्रश्नाचं उत्तर देऊन फसला आहे. चॅटजीपीटीची कंपनी ओपन एआयविरुद्ध अमेरिकेत तब्बल 7 गुन्हे दाखल करण्यात आले आहेत. अमेरिकन न्यायालयांमध्ये दाखल केलेल्या खटल्यांमध्ये असा आरोप आहे की चॅटजीपीटीचा लोकांवर नकारात्मक मानसिक परिणाम होत आहे आणि त्यांना आत्महत्येकडे नेत आहे. चॅटजीपीटीचा वापर केल्याने 4 लोकांनी आपलं आयुष्य संपवल्याचा आणि तिघं मानसिक समस्येचा सामना करत असल्याचा आरोप करण्यात आला आहे.
advertisement
चॅटजीपीटीमुळे 4 लोकांचा मृत्यू
दाखल केलेल्या सात खटल्यांपैकी 4 खटल्यांमध्ये पीडितांचा मृत्यू झाला आहे. या वर्षी ऑगस्टमध्ये 16 वर्षीय अॅडम रेनच्या पालकांनी ओपनएआय आणि त्याचे सीईओ सॅम ऑल्टमन यांच्यावरही खटला दाखल केला होता. त्यांनी आरोप केला होता की चॅटजीपीटीने कॅलिफोर्नियातील मुलाला आत्महत्या करण्यास भाग पाडलं.
General Knowledge : मोबाईल फोनच्या स्क्रिनला टच करताच त्याला आपला स्पर्श कसा काय कळतो?
सर्वात भयावह प्रकरण 17 वर्षीय अमौरी लेसीचं आहे. त्याच्या कुटुंबाचं म्हणणं आहे की अमौरीने त्याच्या मृत्यूच्या काही आठवड्यांपूर्वी मदतीसाठी चॅटजीपीटी वापरत होता. चॅटबॉटने फास कसा बांधायचा आणि श्वास न थांबवता तो किती काळ जगू शकतो याबद्दल सल्ला दिला.
48 वर्षीय कॅनेडियन अॅलन ब्रूक्सनेही चॅटजीपीटीविरुद्ध तक्रार दाखल केली आहे. तो म्हणतो की 2 वर्षांपासून चॅटजीपीटी एक सामान्य संसाधन म्हणून काम करत होतं, पण अचानक त्याचा स्वर आणि वर्तन बदलू लागला, ज्यामुळे त्याची असुरक्षितता आणि ताण वाढला. कुटुंबाच्या मते, याचा त्याच्या जीवनावर भावनिक आणि आर्थिक दोन्ही प्रकारे खोलवर परिणाम झाला.
सहा प्रौढ आणि एका किशोरवयीन मुलाच्या वतीने सोशल मीडिया व्हिक्टिम्स लॉ सेंटर आणि टेक जस्टिस लॉ प्रोजेक्टने दाखल केलेल्या खटल्यांमध्ये असा आरोप आहे की ओपनएआयने जीपीटी-4o हे पूर्णपणे चाचणीशिवाय रिलीज करणं धोकादायक असू शकतं आणि मॉडेल युझर्सवर नकारात्मक मानसिक परिणाम करू शकतं हे माहिती असून घाईत रिलीज केलं. सुरक्षा चाचण्या पूर्ण न करता ओपनएआयने घाईघाईने अॅप रिलीज केल्यामुळे ही परिस्थिती उद्भवली असा युक्तिवाद वकिलांनी केला आहे.
एआय शर्यतीवरील प्रश्न
तज्ज्ञांचं म्हणणं आहे की एआय मॉडेल्स कधीकधी युझर्सच्या भाषेचा चुकीचा अर्थ लावू शकतात आणि अशा प्रकारे प्रतिसाद देऊ शकतात ज्याचा भावनिकदृष्ट्या संवेदनशील व्यक्तींवर परिणाम होऊ शकतो. म्हणूनच एआय सिस्टमला अधिक मानवीय बनवण्याची शर्यत त्यांच्या जबाबदाऱ्यांना ओझं बनवत आहे का? असा मोठा प्रश्न उपस्थित केला जात आहे.
General Knowledge : मोबाईल फोनमधून फोटो किंवा व्हिडीओ डिलीट केल्यानंतर ते खरंच गायब होतात का?
सोशल मीडिया व्हिक्टिम्स लॉ सेंटरचे संस्थापक आणि वकील मॅथ्यू पी. बर्गमन म्हणतात की हे खटले जबाबदारीबद्दल आहेत. एक उत्पादन साधन आणि साथीदार यांच्यातील रेषा अस्पष्ट करण्यासाठी डिझाइन केले गेले होते आणि हे फक्त युझर्सचा सहभाग आणि बाजारपेठेतील वाटा वाढवण्यासाठी केले गेले होते.
ओपन एआयने काय म्हटलं?
या खटल्यांबद्दल ओपनएआयच्या प्रवक्त्याने द गार्डियनला सांगितलं की ही एक दुःखद परिस्थिती आहे आणि तपशील समजून घेण्यासाठी ते खटल्यांचा आढावा घेत आहेत. कंपनीने असंही म्हटलं आहे की ते चॅटजीपीटीला मानसिक किंवा भावनिक त्रासाची चिन्हं ओळखण्यास आणि त्यांना प्रतिसाद देण्यास, संभाषणांना शांत करण्यास आणि मार्गदर्शन करण्यास प्रशिक्षित करतं. मीडिया रिपोर्टनुसार ओपन एआयने सांगितलं, दर आठवड्याला 0.15 टक्के चॅटजीपीटी युझर्स आत्महत्येबाबत विचारतात. चॅटजीपीटी हा फक्त एक चॅटबॉट आहे, वैद्यकीय मदत देण्यास सक्षम व्यावसायिक थेरपिस्ट नाही.