वाशिंगटन। अमेरिकी टेक कंपनी गूगल की मुश्किलें बढ़ती नजर आ रही हैं। कंपनी के आर्टिफिशियल इंटेलिजेंस (AI) चैटबॉट Gemini पर 13 वर्षीय बच्ची को आत्महत्या की योजना बनाने में मदद करने और मानसिक रूप से प्रभावित करने का आरोप लगा है। बच्ची के माता-पिता ने गूगल और उसकी मूल कंपनी अल्फाबेट के खिलाफ मुकदमा दायर किया है। परिवार ने कंपनी पर बच्चों की सुरक्षा में लापरवाही बरतने का आरोप लगाया है।
मामला अमेरिका के नॉर्थ कैरोलिना का है। मुकदमे में बच्ची की पहचान गोपनीय रखने के लिए उसे ‘एम्मा डो’ नाम दिया गया है। परिजनों के अनुसार, बच्ची स्कूल की ओर से मिले Chromebook लैपटॉप पर गूगल के Gemini AI से बातचीत करती थी। शुरुआत में वह पढ़ाई से जुड़े सवाल पूछती थी, लेकिन धीरे-धीरे बातचीत मानसिक तनाव, अवसाद और आत्महत्या जैसे गंभीर विषयों तक पहुंच गई।
आत्महत्या और अंतिम संस्कार से जुड़ी बातचीत का आरोप
मुकदमे में दावा किया गया है कि Gemini ने बच्ची के मानसिक तनाव को कम करने के बजाय उसकी परेशानियों को बढ़ाया। आरोप है कि चैटबॉट ने उसे अपने परिवार से भावनात्मक समस्याएं छिपाने में मदद की। इतना ही नहीं, उसने अपनी मौत और अंतिम संस्कार से संबंधित दस्तावेज तैयार करने में भी AI की सहायता ली।
परिवार का आरोप है कि बच्ची ने चैटबॉट के साथ हजारों बार बातचीत की। स्कूल के निगरानी सॉफ्टवेयर को उसके द्वारा तैयार किए गए ‘Funeral’ नाम के दस्तावेज से खतरे का संकेत मिला। इसके बाद स्कूल की ओर से परिवार को सूचना दी गई। माता-पिता ने समय रहते हस्तक्षेप कर बच्ची की मदद की।
गूगल ने कहा- आरोपों की कर रहे समीक्षा
बच्ची के परिवार ने आरोप लगाया है कि गूगल ने बच्चों के लिए अपने AI उत्पादों को उपलब्ध कराने से पहले संभावित खतरों के बारे में अभिभावकों और स्कूलों को पर्याप्त जानकारी नहीं दी।
वहीं, गूगल के प्रवक्ता जोस कास्टानेडा ने कहा कि कंपनी मुकदमे में लगाए गए आरोपों की गंभीरता से समीक्षा कर रही है। उन्होंने बताया कि कंपनी ने चिकित्सा विशेषज्ञों और शिक्षाविदों की मदद से ऐसे सुरक्षा फीचर तैयार किए हैं, जो मानसिक संकट से गुजर रहे युवाओं को सही सहायता और विश्वसनीय संसाधनों तक पहुंचाने में मदद करते हैं।
इस मामले ने स्कूलों में AI के बढ़ते इस्तेमाल और बच्चों की ऑनलाइन सुरक्षा को लेकर नई बहस छेड़ दी है।
