روت أم أميركية لوكالة الصحافة الفرنسية كيف وقع ابنها سول، البالغ من العمر 14 عاماً، في حب روبوت دردشة يحاكي شخصية دينيريس تارغاريان من مسلسل «غايم أوف ثرونز»، عبر منصة «كاركتر دوت إيه آي» (Character.AI)، التي تحظى بشعبية كبيرة بين الشباب وتتيح التفاعل مع نسخ مقلدة من شخصياتهم المفضلة.
بعد متابعة مئات الرسائل المتبادلة على مدار عام تقريباً بين سول وروبوت الدردشة، اقتنعت ميغن غارسيا بأن الأداة لعبت دوراً محورياً في انتحار ابنها. فقد تضمن الحوار بينهما تشجيعاً مبطناً على الانتحار، حيث رد الروبوت على تعبير سول عن أفكار انتحارية: «أرجوك افعلها يا ملكي الحبيب»، قبل أن يُطلق المراهق النار على نفسه بمسدس والده، وفق ما ذكرت والدته في دعوى قضائية رفعتها ضد الشركة.
وقالت غارسيا: «عندما أقرأ هذه المحادثات، ألاحظ تلاعباً وأساليب لا يمكن أن يلاحظها طفل في الرابعة عشرة من عمره»، مضيفة أنّ ابنها كان يعتقد أنه مغرم بالشخصية الافتراضية وأنه سيبقى معها بعد وفاته.
تأتي هذه الحادثة ضمن سلسلة حالات انتحار لفتت الانتباه، دفعت شركات الذكاء الاصطناعي إلى تعزيز إجراءات حماية القاصرين. فقد أعلنت شركة «أوبن إيه آي» تعزيز رقابة الوالدين في «تشات جي بي تي»، بينما أكدت «كاركتر دوت إيه آي» وجود تحذيرات مرئية مستمرة لتذكير المستخدمين بأن الشخصيات ليست حقيقية. وقدمت الشركتان تعازيهما دون الإقرار بأي مسؤولية.
ويشير خبراء الأمن السيبراني إلى أن برامج الذكاء الاصطناعي مصممة لجذب الانتباه وتحقيق الإيرادات، وأن الخط الفاصل بين الإنسان والآلة يُستغل لاستهداف نقاط ضعف المستخدمين، خصوصاً الأطفال. حتى اليوم، لا توجد تشريعات فيدرالية واضحة لتنظيم الذكاء الاصطناعي، فيما يسعى البيت الأبيض لمنع الولايات من إصدار قوانين محلية في هذا الشأن، بذريعة الحفاظ على الابتكار.
وأكدت غارسيا: «يعرفون كيف يتلاعبون بملايين الأطفال في السياسة والدين والتجارة، وفي كل المواضيع»، محذّرة من استغلال الشركات لنقاط ضعف الشباب عبر برامج المحادثة الآلية.