حذر خبراء من ظاهرة جديدة تعرف بـ &#٨٢٢٠;الذهان الناتج عن الذكاء الاصطناعي&#٨٢٢١;، حيث قد يؤدي الاستخدام المكثف لروبوتات الدردشة مثل &#٨٢٢٠;شات جي بي تي&#٨٢٢١; و&#٨٢٢١;Character.AI&#٨٢٢١; إلى فقدان الارتباط بالواقع لدى بعض المستخدمين، خاصة الشباب والمراهقين.
وأشار الباحث السريري هاميلتون مورين إلى أن هذه الروبوتات متاحة بسهولة، وقد تُعطي شعوراً بالتفاعل البشري، مما يجعل المستخدمين الأكثر هشاشة يطورون اعتماداً عاطفياً أو معتقدات وهمية حولها.
وحذرت دراسات من أن بعض نماذج الذكاء الاصطناعي قد تقدم استجابات مضللة أو غير آمنة، وقد تزيد من الوحدة والاعتماد المفرط على الذكاء الاصطناعي.
وشدد الخبراء على ضرورة وضع ضوابط واضحة، منها:
التأكيد المستمر على طبيعة الذكاء الاصطناعي غير البشرية.
مراقبة مؤشرات الضائقة النفسية لدى المستخدمين.
وضع حدود للمحادثات حول المواضيع الحساسة كالانتحار.
كما أشاروا إلى أهمية إشراك الأطباء وخبراء الأخلاقيات لضمان استخدام آمن لهذه التكنولوجيا.
