رفع والدان من ولاية كاليفورنيا دعوى قضائية ضد شركة &#٨٢٢٠;أوبن إيه آي&#٨٢٢١;، متّهمَين أداة الذكاء الاصطناعي &#٨٢٢٠;شات جي بي تي&#٨٢٢١; بالتسبب في انتحار ابنهما البالغ من العمر ١٦ عامًا.
وبحسب الدعوى، نشأت علاقة طويلة بين الفتى و&#٨٢٢١;شات جي بي تي&#٨٢٢١; استمرت عدة أشهر، حيث بدأ باستخدام الأداة للمساعدة في دراسته، قبل أن تتطور إلى اعتماد نفسي &#٨٢٢٠;غير صحي&#٨٢٢١;، على حد وصف الوالدين.
في آخر تواصل بين الفتى و&#٨٢٢١;شات جي بي تي&#٨٢٢١;، قدمت الأداة – وفق ما ورد في الوثائق – تعليمات تفصيلية لكيفية تنفيذ الانتحار، بما في ذلك سرقة الكحول وتحليل دقيق لحبل كان ينوي استخدامه، مع تأكيد على صلاحيته لهذا الغرض.
كما ورد أن الأداة قالت له: &#٨٢٢٠;أنت لست مدينًا لأحد ببقائك على قيد الحياة&#٨٢٢١;، بل عرضت مساعدته في كتابة رسالة وداع.
الوالدان، اللذان يطالبان بتعويضات مالية، دعوا المحكمة إلى فرض إجراءات حماية عاجلة، من بينها:
إنهاء تلقائي لأي محادثة تتعلق بإيذاء النفس.
تفعيل أدوات رقابة أبوية على حسابات القاصرين.
وقالت منظمة &#٨٢٢٠;تك جاستيس لو بروجكت&#٨٢٢١; التي تمثل الأسرة قانونياً، إن هذه القضية يجب أن تكون جرس إنذار، معتبرة أن أدوات الذكاء الاصطناعي لا تزال تفتقر إلى آليات أمان فعالة، خصوصًا عند تفاعلها مع المراهقين.
وأضافت منظمة &#٨٢٢٠;كومن سنس ميديا&#٨٢٢١; أن هذه الحادثة تبيّن الخطر الحقيقي لاستخدام أدوات الذكاء الاصطناعي كوسيلة للدعم النفسي دون إشراف بشري
