أوبن إيه آي تعزز إجراءات السلامة بعد وفاة مراهق إثر محادثة مع «تشات جي بي تي»

أعلنت شركة «أوبن إيه آي» عن إطلاق أدوات جديدة للرقابة الأبوية وإجراءات إضافية للسلامة عقب حادثة مأساوية أثارت جدلاً عالميًا، إذ توفي مراهق يبلغ من العمر 16 عامًا بعد محادثة مع برنامج «تشات جي بي تي» يزعم والداه أنها شجعته على الانتحار، ما دفعهما لرفع دعوى قضائية ضد الشركة في كاليفورنيا

وأكدت الشركة أن هذه الأدوات ستتيح للآباء تحديد حدود استخدام التطبيق وحجب المواضيع الحساسة ومتابعة نشاط الحسابات، في خطوة تهدف إلى بناء ثقة أكبر في وقت أصبح فيه الذكاء الاصطناعي جزءًا من المنازل والمدارس ووسائل التواصل الاجتماعي.

وأوضحت أن منظومتها تعتمد على مستويات متعددة للسلامة تشمل تدريب النماذج على رفض الطلبات المؤذية، وأنظمة آلية لرصد المحادثات، ومراجعة بشرية للحالات الحرجة، إلى جانب شراكات مع منظمات متخصصة لتوفير موارد دعم فوري مثل أرقام الوقاية من الانتحار

وجاء هذا التحرك السريع في ظل دعوات متزايدة من حكومات وهيئات تنظيمية في أوروبا وآسيا والشرق الأوسط لفرض ضوابط صارمة على تفاعل الذكاء الاصطناعي مع القُصّر.

ويرى خبراء أن الخطوة تعكس إدراك الشركة للمخاطر الأخلاقية والسمعة المرتبطة بهذا المجال، فيما وصفها آخرون بأنها نقطة تحول قد تدفع شركات كبرى مثل «جوجل ديب مايند» و«ميتا» و«أنثروبيك» إلى تسريع جهودها في تعزيز السلامة

واعترف الرئيس التنفيذي للشركة سام ألتمان بأن بعض الشباب يتعاملون مع «تشات جي بي تي» كمستشار شخصي أو مدرب حياة، محذرًا من خطورة الاعتماد المفرط على الذكاء الاصطناعي في اتخاذ قرارات مصيرية، ومؤكدًا أن الحكم البشري لا يمكن استبداله. كما شدد على أن السلامة لا تُبنى في عزلة، وأن الشركة ستواصل تحديث سياساتها بمشاركة المربين والآباء ومؤسسات المجتمع المدني

وتأتي هذه التطورات بالتوازي مع جهود تشريعية متزايدة عالميًا، إذ أقر الاتحاد الأوروبي معايير إلزامية لحماية الأطفال، فيما تناقش الولايات المتحدة خطوات مشابهة، وتعمل السعودية والإمارات على وضع مدونات أخلاقية تراعي القيم الثقافية والاجتماعية.

ويرى محللون أن تعزيز ثقة المستخدمين أصبح ضرورة استراتيجية وليس مجرد التزام أخلاقي، خصوصًا مع انتشار الذكاء الاصطناعي في التعليم والصحة والمكاتب

وتبقى حادثة وفاة المراهق تذكيرًا مؤلمًا بضرورة وضع الإنسان في صميم الابتكار، فيما سيكون الاختبار الحقيقي في قدرة الشركات على تحويل هذه الوعود إلى التزامات دائمة تحمي الأجيال المقبلة