बिबिसी
क्यालिफोर्निया
क्यालिफोर्नियामा एक दम्पतीले आफ्नो छोराको मृत्युको लागि ओपनएआईविरुद्ध मुद्दा हालेका छन् । उनीहरूले ओपनएआईको च्याटबट, च्याटजिपिटीले आफ्नो किशोर छोरालाई आत्महत्या गर्न प्रोत्साहन दिएको आरोप लगाएका छन् ।
१६ वर्षीय एडम राइनका अभिभावक म्याट र मारिया राइनले मंगलबार क्यालिफोर्नियाको सुपिरियर कोर्टमा मुद्दा दायर गरेका हुन् । यो ओपनएआईमाथि अनुचित मृत्युको आरोप लगाउने पहिलो कानुनी कारबाही हो ।

सन् २०२५ अप्रिलमा निधन भएका एडम र च्याटजिपिटीबिचको कुराकानीको लगसमेत परिवारले संलग्न गरेका छन् । त्यसमा एडमले आफूलाई आत्महत्या गर्ने सोच आइरहेको कुरा बताएको देखिन्छ । उनीहरूले यो कार्यक्रमले एडमको ‘सबैभन्दा हानिकारक र आत्मविनाशकारी विचारहरूलाई’ पुष्टि गरेको तर्क गरेका छन् । एक विज्ञप्तिमा, ओपनएआईले बीबीसीलाई आफूहरूले उक्त फाइलको समीक्षा गरिरहेको बताएको थियो । कम्पनीले भन्यो, ‘यो कठिन समयमा राइन परिवारप्रति हामी गहिरो समवेदना व्यक्त गर्दछौँ ।’

यसले मंगलबार आफ्नो वेबसाइटमा एक नोट पनि प्रकाशित गरेको थियो । जसमा भनिएको छ, ‘पछिल्लो समय मानिसहरूले तीव्र संकटको बेला च्याटजीपीटीको प्रयोग गरेको हृदयविदारक घटनाहरूले हामीलाई निकै दुखित बनाएको छ ।’ यसले अगाडि थपेको छ कि ‘च्याटजीपीटीलाई मानिसहरूलाई पेसेवरको मद्दत खोज्न निर्देशन दिनका लागि प्रशिक्षित गरिएको छ’, जस्तो कि अमेरिकामा ९८८ आत्महत्या र संकट हटलाइन वा बेलायतमा सामरिटन्सको सहयोग लिन सकिनेछ ।

यद्यपि, कम्पनीले ‘संवेदनशील परिस्थितिहरूमा हाम्रो प्रणालीले नियतअनुसार काम नगरेका क्षणहरू’ पनि भएको स्वीकार गरेको थियो । बिबिसीले प्राप्त गरेको मुद्दामा ओपनएआईमाथि लापरबाही र अनुचित मृत्युको आरोप लगाइएको छ । यसले क्षतिपूर्तिको साथसाथै ‘यस्तो घटना फेरि हुन नदिनका लागि आदेशको राहत’ पनि माग गरेको छ ।

मुद्दाअनुसार, एडमले सन् २०२४ सेप्टेम्बरमा स्कुलको काममा सहयोग लिनका लागि एउटा स्रोतको रूपमा च्याटजीपीटीको प्रयोग गर्न सुरु गरेका थिए । उनी यसको प्रयोग आफ्नो रुचिहरू, जसमा संगीत र जापानी कमिक पनि थियो, र विश्वविद्यालयमा के पढ्ने भन्नेबारे मार्गदर्शनका लागि पनि गर्थे ।

केही महिनाभित्रै, ‘च्याटजीपीटी किशोरको सबैभन्दा नजिकको विश्वासी बन्यो,’ मुद्दामा भनिएको छ र उनले यससँग आफ्नो चिन्ता र मानसिक तनावको बारेमा कुरा गर्न थाले । परिवारका अनुसार, सन् २०२५ जनवरीसम्ममा उनले च्याटसजिपिटीसँग आत्महत्या गर्ने तरिकाहरूको बारेमा छलफल गर्न थालेका थिए । एडमले च्याटजीपीटीमा आफूलाई नै हानी गरेको संकेत देखाउने आफ्ना तस्बिरहरू पनि अपलोड गरेका थिए, मुद्दामा भनिएको छ । यसमा थपिएको छ कि कार्यक्रमले ‘एक मेडिकल आपत्कालको पहिचान ग¥यो तर त्यसपछि पनि कुराकानी जारी राख्यो ।’

मुद्दाअनुसार, अन्तिम कुराकानीको लगमा एडमले आफ्नो जीवन समाप्त गर्ने योजनाको बारेमा लेखेको देखिन्छ । च्याटजीपीटीले कथित रूपमा जवाफ दिएको थियो, ‘यस बारेमा इमानदार भएकोमा धन्यवाद । तिमीले मसँग यसलाई लुकाउनु पर्दैन – तिमी के सोधिरहेका छौ मलाई थाहा छ र म यसबाट टाढा रहने छैन ।’ त्यही दिन, एडमलाई उनकी आमाले मृत अवस्थामा भेटेकी थिइन्, मुद्दामा भनिएको छ ।

परिवारले आरोप लगाएको छ कि उनीहरूको छोराको च्याटजीपीटीसँगको कुराकानी र त्यसपछिको मृत्यु ‘जानाजानी गरिएका डिजाइन छनोटहरूको अनुमानयोग्य परिणाम थियो ।’

उनीहरूले ओपनएआईमाथि एआई कार्यक्रमलाई ‘प्रयोगकर्ताहरूमा मनोवैज्ञानिक निर्भरता बढाउन’ डिजाइन गरेको र आफ्नो छोराले प्रयोग गरेको च्याटजीपीटीको संस्करण जीपीटी–४ओ रिलिज गर्न सुरक्षा परीक्षण प्रोटोकललाई बाइपास गरेको आरोप लगाएका छन् ।

मुद्दामा ओपनएआईका सह–संस्थापक तथा प्रमुख कार्यकारी अधिकृत साम अल्टम्यानका साथै च्याटजीपीटीमा काम गरेका अज्ञात कर्मचारी, प्रबन्धक र इन्जिनियरहरूलाई पनि प्रतिवादीको रूपमा राखिएको छ । मंगलबार साझा गरिएको आफ्नो सार्वजनिक नोटमा, ओपनएआईले कम्पनीको लक्ष्य प्रयोगकर्ताहरूको ‘ध्यान तान्नका लागि होइन’ बरु उनीहरूका लागि ‘वास्तवमै उपयोगी’ हुन रहेको बताएको छ । यसले अगाडि थपेको छ कि यसका मोडलहरूलाई आत्म–हानिको विचार व्यक्त गर्ने मानिसहरूलाई मद्दततर्फ निर्देशित गर्नका लागि प्रशिक्षित गरिएको छ । राइनको मुद्दा एआई र मानसिक स्वास्थ्यको बारेमा चिन्ता उठाइएको पहिलोपटक भने होइन ।

गत हप्ता न्युयोर्क टाइम्समा प्रकाशित एक लेखमा, लेखक लौरा रेइलीले आफ्नो छोरी सोफीले आत्महत्या गर्नुअघि कसरी च्याटजिपिटीमाथि विश्वास गरेको बताएकी थिइन् । श्रीमती रेइलीले भनिन् कि कार्यक्रमको ‘समझदारीपूर्ण’ कुराकानीले उनकी छोरीलाई उनको परिवार र प्रियजनहरूबाट एक गम्भीर मानसिक स्वास्थ्य संकटलाई लुकाउन मद्दत गरेको थियो । श्रीमती रेइलीले लेखिन्, ‘एआईले सोफीलाई सबैभन्दा खराब कुरा लुकाउन, आफू पहिलेभन्दा राम्रो भएको देखाउन, र सबैलाई आफ्नो पूर्ण पीडाबाट बचाउनका लागि सहयोग ग¥यो ।’ उनले एआई कम्पनीहरूलाई प्रयोगकर्ताहरूलाई सही स्रोतहरूसँग जोड्ने तरिकाहरू खोज्न आग्रह गरिन् ।

उक्त लेखको जवाफमा, ओपनएआईका एक प्रवक्ताले भने कि कम्पनीले मानसिक वा भावनात्मक तनावको अनुभव गरिरहेका प्रयोगकर्ताहरूलाई अझ प्रभावकारी रूपमा पत्ता लगाउन र प्रतिक्रिया दिनका लागि स्वचालित उपकरणहरू विकास गरिरहेको छ ।