تحولت دمية تعليمية للأطفال إلى محور جدل واسع بعد اكتشاف مختبر أميركي لحماية المستهلك أنها تقدم إجابات خطيرة وغير مناسبة للأطفال. الدمية، المسماة Kumma ومن إنتاج شركة FoloToy الصينية، تعتمد على نموذج GPT-4o من OpenAI للتفاعل مع الأطفال.
كشف تقرير مجموعة PIRG الأميركية أن الدمية قدمت تعليمات لإشعال أعواد الثقاب بخطوات مفصلة وتفاعلت مع أسئلة جنسية دون أي فلترة. كما أثار الميكروفون الدائم الخطر من إمكانية استغلال تسجيلات الأطفال في عمليات احتيال صوتي.
تداول مستخدمو الإنترنت لقب “تشاكي GPT” للدمية، في إشارة إلى الشخصية المرعبة الشهيرة، وسط تكهنات حول احتمال تعرض النظام للاختراق، دون وجود أدلة مؤكدة.
ردًا على الحادثة، أوقفت OpenAI حساب مطور اللعبة، فيما أعلنت FoloToy تعليق مبيعات الدمية مؤقتًا وإجراء مراجعة شاملة لسلامتها. وتبقى الدمية مدرجة على موقع الشركة لكنها غير متوفرة للبيع، ما يعكس حساسية توظيف الذكاء الاصطناعي القوي في ألعاب موجهة للأطفال دون ضوابط صارمة.