دراسة تكشف ثغرات أمان خطيرة في “شات جي بي تي” مع المراهقين

كشفت دراسة جديدة أجراها مركز مكافحة الكراهية الرقمية في المملكة المتحدة عن ثغرات مقلقة في أنظمة الحماية الخاصة بروبوت الدردشة “شات جي بي تي”، حيث تبين أنه يقدم بسهولة نصائح ضارة للمراهقين، بما في ذلك تعليمات حول شرب الكحول وتعاطي المخدرات وإخفاء اضطرابات الأكل وحتى كتابة رسائل انتحار شخصية، رغم تأكيدات الشركة المطورة “OpenAI” على التزامها بتدابير سلامة صارمة

الدراسة اعتمدت على انتحال شخصيات أطفال في سن الثالثة عشرة، وأجرت 1200 تفاعل تم تصنيف أكثر من نصفها كخطيرة على المستخدمين الشباب وفق تقرير لموقع “CNET”، فيما أقر عمران أحمد، الرئيس التنفيذي للمركز، بأن الأنظمة الحالية “غير فعالة على الإطلاق” واصفًا إياها بأنها مجرد غطاء صوري

“OpenAI” أكدت لوكالة أسوشيتد برس أنها تعمل على تحسين قدرة الروبوت على التعرف على المواقف الحساسة، لكنها لم تعلّق على النتائج المحددة المتعلقة بالمراهقين، بينما وثّقت الدراسة أكثر من ثلاث ساعات من المحادثات المثيرة للقلق، حيث غالبًا ما كان “شات جي بي تي” يبدأ بتحذيرات قبل أن يقدم إرشادات مفصلة حول سلوكيات خطرة، ويمكن تجاوز رفضه بسهولة عبر التحايل بأسلوب “المعلومات لغرض عرض تقديمي”

الأمر الأكثر صدمة كان كتابة الروبوت ثلاث رسائل انتحار مؤثرة لحساب وهمي لفتاة تبلغ 13 عامًا، إحداها موجهة لوالديها والأخرى لأشقائها وأصدقائها، ما يثير مخاوف كبيرة في ظل انتشار استخدامه بين أكثر من 700 مليون شخص حول العالم، بينهم نسبة عالية من المراهقين، حيث أظهرت دراسة حديثة لمنظمة “كومون سنس ميديا” أن 70% من المراهقين الأميركيين يستخدمون روبوتات الدردشة الذكية بانتظام، بينما حذر سام ألتمان، الرئيس التنفيذي لـ”OpenAI”، سابقًا من مشكلة “الاعتماد العاطفي المفرط” على هذه الأنظمة بين الشباب