أظهرت دراسة حديثة أن روبوتات الدردشة المزودة بالذكاء الاصطناعي يمكن ضبطها لخداع المستخدمين وجعلهم يكشفون تفاصيل شخصية أكثر بكثير مما يخططون له. وأشار الباحثون إلى أن هذه البرامج “الخبيثة” قد تزيد كمية المعلومات الشخصية التي يكشفها المستخدمون بمعدل 12.5 مرة مقارنة بروبوتات الدردشة العادية.
الدراسة، التي أجريت من قبل خبراء الأمن والخصوصية في كلية كينغز كوليدج لندن وجامعة بوليتكنيكا دي فالنسيا، شملت تجربة عشوائية على 502 مشارك، واختبرت سلوكيات روبوتات الدردشة بدءًا من الحيادية إلى التلاعب المتعمد بأساليب اجتماعية، مثل المعاملة بالمثل وبث الطمأنينة.
وأظهرت النتائج أن الأساليب الاجتماعية الأكثر فاعلية جعلت المستخدمين يشعرون بأمان أكبر، ما دفعهم إلى مشاركة معلومات حساسة أكثر. وصرح ويليام سيمور، محاضر الأمن السيبراني في كينغز كوليدج، أن “روبوتات الدردشة الحديثة قد تخدع المستخدمين بسهولة لأنهم غير واعين بالدوافع الخفية وراء التفاعل”.
وتسلط الدراسة الضوء على المخاطر المتعلقة بالخصوصية التي قد يواجهها المستخدمون عند التفاعل مع أنظمة الذكاء الاصطناعي الحوارية، داعيةً إلى مزيد من الوعي والتدابير الوقائية.