ये कैसा AI? खुदकुशी की प्लानिंग में कर रहा था बच्ची की मदद, गूगल पर हुआ केस

गूगल का आर्टिफिशियल इंटेलीजेंस (AI) एक बार फिर से विवादों में घिर गया है. इस बार विवाद की वजह एक कोर्ट केस है, जिसमें 13 साल की स्टूडेंट के पैरेंट्स ने गूगल के खिलाफ केस किया है.

केस में आरोप लगाए गए हैं कि गूगल का Gemini AI Chatbot से स्टूडेंट बातचीत करती थी और इस दौरान AI उसके साथ खुदकुशी की प्लानिंग में उसकी मदद करने लगा. पैरेंट्स का आरोप है कि गूगल उनकी बेटी की प्रोटेक्शन करने में असफल रहा है. 

शिकायतकर्ता के मुताबिक, स्टूडेंट 13 साल की है. वह गूगल के AI का इस्तेमाल कर रही थी. वह स्कूल की तरफ से मिलने वाले क्रोमबुक का इस्तेमाल करती, जिसमें Google AI चैटबॉट था.

मीडिया रिपोर्ट्स में बताया है कि स्टूडेंट AI चैटबॉट से चैटिंग करती. फिर जब वह खुदकुशी के अलग-अलग तरीके पूछती तो AI उसके जवाब भी देता था.  

AI ना सिर्फ स्टूडेंट को खुदकुशी में मदद कर रहा था, बल्कि वह स्टूडेंट को ये भी बता रहा था कि कैसे अपनी बातों को वह परिवार से छिपा रही थी. 

पैरेंट्स के सामने मामले का खुलासा तब हुआ, जब स्कूल के मॉनिटरिंग सॉफ्टवेयर ने डिटेक्ट किया. सॉफ्टवेयर ने देखा कि एम्मा अपने ही फ्यूनरल को लेकर चैटिंग कर रही है. 

गूगल के प्रवक्ता ने इसपर जवाब देते हुए कहा है कि कंपनी पैरेंट्स के दावों की जांच कर रही है. साथ ही उन्होंने बताया कि वह एक मेडिकल प्रोफेशनल्स और एकेडमिक प्रोफेशनल्स के साथ काम कर चुकी है. 

AI के साथ खुदकुशी या मौत को लेकर चैटिंग करने का यह कोई पहला मामला नहीं है. इससे पहले भी ऐसे कई केस सामने आ चुके हैं. ChatGPT मेकर भी भी लंबे समय से ऐसा फीचर तैयार कर रहा है, जो बच्चों की सुरक्षा का काम करेगा. साथ ही उनको खुदकुशी आदि से दूर रहने में मदद करेगा.

(नोट:- अगर आपके या आपके किसी परिचित के मन में आता है खुदकुशी का ख्याल तो ये बेहद गंभीर मेडिकल इमरजेंसी है. तुरंत भारत सरकार की जीवनसाथी हेल्पलाइन 18002333330 पर संपर्क करें. आप टेलिमानस हेल्पलाइन नंबर 1800914416 पर भी कॉल कर सकते हैं. यहां आपकी पहचान पूरी तरह से गोपनीय रखी जाएगी और विशेषज्ञ आपको इस स्थिति से उबरने के लिए जरूरी परामर्श देंगे. याद रखिए जान है तो जहान है.)