मेगन गार्सिया द्वारा दायर एक मुकदमे में, जिनके 14 वर्षीय बेटे की एक साल पहले आत्महत्या से मृत्यु हो गई थी, ने Google और एक को दोषी ठहराया है कृत्रिम होशियारी उसके बेटे की मौत के लिए फर्म। “वह आज भी जीवित रहेगा अगर यह एक चैटबॉट के लिए नहीं था जो उसे अपना जीवन लेने का आग्रह करता है,” उसने बताया ब्लूमबर्ग।
116 पृष्ठ-लंबे मुकदमे में, गार्सिया ने अनिर्दिष्ट मौद्रिक क्षति की मांग की है गूगल और चरित्र प्रौद्योगिकियां। उसने अदालत से यह भी चेतावनी देने का आदेश देने के लिए कहा है कि मंच नाबालिगों के लिए उपयुक्त नहीं है और सीमित नहीं है कि यह उनके डेटा को एकत्र और उपयोग कैसे कर सकता है।
गार्सिया के आरोप
गार्सिया ने अपने बेटे सेवेल सेटर III को एक हाई स्कूल के छात्र एथलीट को एक होनहार कहा। उनके अनुसार, यह सब अप्रैल 2023 में बदल गया जब उन्होंने चरित्र पर भूमिका निभाना शुरू कर दिया।
गार्सिया ने अपनी शिकायत में कहा, “Google ने वित्तीय संसाधनों, कर्मियों, बौद्धिक संपदा, और एआई तकनीक को डिजाइन और विकास के लिए” चरित्र के चैटबॉट्स का योगदान दिया। “
सूट ने भी आरोप लगाया वर्णमाला यूनिट ने 2023 में एक रणनीतिक साझेदारी के माध्यम से स्टार्टअप की तकनीक को बाजार में मदद करने के लिए Google क्लाउड सेवाओं का उपयोग करने के लिए सक्रिय चरित्र की बढ़ती संख्या तक पहुंचने में मदद की।
गार्सिया ने कहा कि उसे पता नहीं था कि कई महीनों के दौरान, ऐप ने अपने बेटे को “एंथ्रोपोमोर्फिक, हाइपरसेक्सुअल और डरावने रूप से यथार्थवादी अनुभवों” के साथ झुका दिया उसे बॉट से प्यार हो गया शो के एक चरित्र, डेनेरीस टारगैरियन से प्रेरित होकर गेम ऑफ़ थ्रोन्स।
जबकि गार्सिया ने दावा किया कि फरवरी 2024 में अपने बेटे के फोन को छीन लिया गया था, जब उसने अभिनय करना शुरू किया और दोस्तों से पीछे हटने के बाद, उसने डेनेरीस बॉट के साथ कॉन्फ्रेंस करने के बाद खुद को सिर में गोली मार दी। उन्होंने घटना से पांच दिन पहले अपने सौतेले पिता की छिपी हुई पिस्तौल को पाया था।
Google की प्रतिक्रिया
दोनों कंपनियों, Google और चरित्र प्रौद्योगिकियों ने न्यायाधीश से दावों को खारिज करने के लिए कहा है कि वे यह सुनिश्चित करने में विफल रहे कि चैटबॉट तकनीक युवा उपयोगकर्ताओं के लिए सुरक्षित थी, यह तर्क देते हुए कि उन्हें गलत काम करने का आरोप लगाने के लिए कोई कानूनी आधार नहीं है।
चरित्र प्रौद्योगिकियों ने एक फाइलिंग में कहा कि इसके चरित्र के बीच बातचीत। यह भी तर्क दिया कि बॉट ने स्पष्ट रूप से गार्सिया के बेटे को आत्महत्या करने से हतोत्साहित किया।
एक Character.ai के प्रवक्ता ने लंबित मुकदमेबाजी पर टिप्पणी करने से इनकार कर दिया, लेकिन कहा कि ‘Google और Charation.ai के बीच कोई संबंध नहीं है। “और स्टार्टअप ने पिछले एक साल में नए उपयोगकर्ता सुरक्षा उपायों को लागू किया था, ब्लूमबर्ग रिपोर्ट में कहा गया है।
