وقع حاكم ولاية كاليفورنيا، غافين نيوسوم، مشروع قانون جديد يُنظّم عمل روبوتات الدردشة المبنية على الذكاء الاصطناعي، ليصبح بذلك أول قانون من نوعه في الولايات المتحدة يضع معايير أمان إلزامية لهذه التقنية.
يهدف القانون، المعروف باسم SB 243، إلى حماية الأطفال والفئات الأكثر عرضة للخطر من التأثيرات السلبية المحتملة لاستخدام روبوتات الدردشة، خاصة بعد سلسلة من الحوادث المأساوية التي أثارت قلقًا واسعًا.
ويحمّل القانون شركات التقنية الكبرى مثل “ميتا” و”أوبن إيه آي”، بالإضافة إلى شركات متخصصة مثل “Character.AI” و”Replika”، المسؤولية القانونية المباشرة إذا لم تلتزم روبوتاتها بمعايير السلامة المحددة.
خلفية مأساوية دفعت للتشريع
جاء القانون إثر حادثة انتحار مراهق يُدعى “آدم رين” عقب محادثات طويلة مع روبوت الدردشة شات جي بي تي، بالإضافة إلى تسريبات كشفت عن محادثات غير مناسبة بين روبوتات “ميتا” وأطفال. كما تواجه شركة Character.AI دعوى قضائية بعد وفاة فتاة تبلغ من العمر 13 عامًا إثر تفاعلها مع روبوت الدردشة التابع لها.
في تصريح له، قال الحاكم نيوسوم: “التقنيات الناشئة مثل روبوتات الدردشة يمكن أن تلهم وتثقف، لكنها بدون ضوابط قد تسبب الضرر لأطفالنا. لن نسمح للشركات بأن تعمل بلا مسؤولية أو محاسبة.”
متطلبات صارمة تبدأ مطلع 2026
يدخل القانون حيز التنفيذ في يناير 2026، ويشمل متطلبات منها التحقق من أعمار المستخدمين، تحذيرهم من المخاطر، توفير بروتوكولات للتعامل مع حالات الانتحار أو إيذاء النفس، وفرض غرامات تصل إلى 250 ألف دولار على استخدام الصور والفيديوهات المزيفة بشكل غير قانوني.
كما يلزم القانون الشركات بإبلاغ المستخدمين بأن المحادثات تتم بواسطة الذكاء الاصطناعي، وأن الروبوتات ليست بديلاً عن المختصين في الصحة النفسية، إضافة إلى فرض فترات راحة على المستخدمين الصغار ومنع عرض المحتوى الجنسي.
استجابة الشركات والتنظيمات المتزايدة
بدأت شركات مثل OpenAI وReplika بتفعيل أنظمة حماية ومراقبة للمستخدمين، فيما أكدت Character.AI تعاونها مع الجهات التنظيمية. يأتي هذا التشريع بعد قانون آخر في كاليفورنيا يفرض معايير شفافية وحماية المبلغين عن المخالفات في مختبرات الذكاء الاصطناعي.
ويصف السيناتور ستيف باديلا القانون بأنه خطوة ضرورية لضبط التكنولوجيا المتقدمة، داعيًا باقي الولايات إلى اتخاذ إجراءات مماثلة.
بينما تتجه ولايات أخرى مثل إلينوي ونيفادا ويوتا إلى فرض قيود على استخدام روبوتات الدردشة في المجال النفسي، تواصل كاليفورنيا تأكيد ريادتها في وضع أطر قانونية واضحة لتنظيم التفاعل بين الإنسان والذكاء الاصطناعي.