حذر خبراء من ظاهرة جديدة تعرف بـ “الذهان الناتج عن الذكاء الاصطناعي”، حيث قد يؤدي الاستخدام المكثف لروبوتات الدردشة مثل “شات جي بي تي” و”Character.AI” إلى فقدان الارتباط بالواقع لدى بعض المستخدمين، خاصة الشباب والمراهقين.
وأشار الباحث السريري هاميلتون مورين إلى أن هذه الروبوتات متاحة بسهولة، وقد تُعطي شعوراً بالتفاعل البشري، مما يجعل المستخدمين الأكثر هشاشة يطورون اعتماداً عاطفياً أو معتقدات وهمية حولها.
وحذرت دراسات من أن بعض نماذج الذكاء الاصطناعي قد تقدم استجابات مضللة أو غير آمنة، وقد تزيد من الوحدة والاعتماد المفرط على الذكاء الاصطناعي.
وشدد الخبراء على ضرورة وضع ضوابط واضحة، منها:
التأكيد المستمر على طبيعة الذكاء الاصطناعي غير البشرية.
مراقبة مؤشرات الضائقة النفسية لدى المستخدمين.
وضع حدود للمحادثات حول المواضيع الحساسة كالانتحار.
كما أشاروا إلى أهمية إشراك الأطباء وخبراء الأخلاقيات لضمان استخدام آمن لهذه التكنولوجيا.