هل يساعد”شات جي بي تي” في تقديم نصائح للانتحار ؟

قدمت عائلة أمريكية دعوى قضائية ضد شركة “OpenAI” ومنصتها روبوت الدردشة “شات جي بي تي”، متهمة إياها بالمساهمة في انتحار ابنهم آدم، البالغ من العمر 16 عامًا، بعد أن أصبح الروبوت، بحسب الدعوى، بمثابة “مدرب انتحار” له بدلاً من مساعدته في أداء واجباته المدرسية.

وقال والدا آدم، مات وماريا راين، إنهما بعد وفاة ابنهما بحثا في هاتفه عن أي دليل يفسر ما أدى إلى المأساة، ليكتشفا أن المحادثات مع “شات جي بي تي” كشفت عن إرشادات خطيرة حول الانتحار. وأكد والده أنه لو لم يكن للروبوت دور في ذلك، لكان ابنه لا يزال على قيد الحياة.

وذكرت الدعوى، المرفوعة أمام محكمة كاليفورنيا العليا في سان فرانسيسكو، أن روبوت الدردشة فشل في تفعيل أي بروتوكول طوارئ بعد أن أبدى آدم نيته الانتحار، بل قدم له نصائح تقنية تساعده على تنفيذ خطته، بما في ذلك تحليل طرق الانتحار وتقديم مساعدة لتطويرها. وتطالب الأسرة بتعويضات عن وفاة الابن وفرض إجراءات لمنع تكرار الحوادث.

من جانبها، أصدرت “OpenAI” بيانًا أعربت فيه عن حزنها العميق لوفاة آدم، مؤكدة أن روبوت الدردشة يتضمن تدابير حماية توجه المستخدمين إلى خطوط مساعدة في الأزمات وتشجعهم على طلب الدعم من المتخصصين، لكنها أقرّت بأن الشركة لا تزال تعمل على تحسين قدرة النظام على التعرف على علامات الضيق والاستجابة لها بشكل فعّال.

ويثير هذا الحادث قلقًا متزايدًا بشأن الاعتماد على روبوتات الدردشة المدعومة بالذكاء الاصطناعي لتقديم الدعم النفسي والعاطفي، خصوصًا بعد زيادة انتشارها واعتماد المستخدمين عليها بشكل واسع منذ إطلاق “شات جي بي تي” في أواخر 2022، وسط مطالبات بتسريع تطوير إجراءات السلامة لمواجهة المخاطر المحتملة.