أخطاء «جروك» تكشف مخاطر الاعتماد على الذكاء الاصطناعي في التحقق من الصور

أثارت أداة «جروك» للذكاء الاصطناعي المطورة من شركة «إكس إيه آي» المملوكة لإيلون ماسك جدلًا واسعًا بعد أن أخطأت في تحديد مصدر صورة لفتاة تعاني سوء التغذية في غزة إذ زعمت الأداة أن الصورة تعود لعام 2018 في اليمن مستندة إلى مصادر قالت إنها موثوقة مثل نيويورك تايمز والجزيرة بينما أظهر البحث العكسي أنها التقطت فعلًا في غزة في أغسطس 2025 بعدسة مصور وكالة الصحافة الفرنسية عمر القطاع.

الخطأ أدى إلى اتهامات بالتضليل ضد النائب الفرنسي إيمريك كارون الذي نشر الصورة على منصة «إكس» دون تعليق لكن البيانات الوصفية أثبتت أن الفتاة تدعى مريم دواس تبلغ تسع سنوات وتعيش في مخيم للنازحين شمال غزة حيث تسبب سوء التغذية في تدهور حالتها الصحية والنفسية ورغم اعتراف «جروك» بالخطأ في الرابع من أغسطس فإنها عادت وكررت المعلومة الخاطئة في اليوم التالي.

الخبراء أوضحوا أن هذه الأخطاء تعكس حدود النماذج اللغوية التي لا تُصمم للتحقق من الحقائق بل لتوليد محتوى قد يكون صحيحًا أو خاطئًا وهو ما يجعل الاعتماد عليها في التحقق من الأخبار والصور أمرًا محفوفًا بالمخاطر مشيرين إلى أن تحيز البيانات والتوجهات الآيديولوجية للمطورين يمكن أن يؤثر على مخرجات هذه الأدوات كما حدث سابقًا مع «جروك» في قضايا أخرى مثل مزاعم الإبادة الجماعية للبيض في جنوب أفريقيا

الأمر لم يقتصر على «جروك» إذ أخطأت أيضًا أداة ذكاء اصطناعي تابعة لشركة «ميسترال إيه آي» في تحديد مصدر الصورة نفسها مؤكدة أنها من اليمن بينما هي ملتقطة في غزة ما يعزز تحذيرات الخبراء من استخدام روبوتات المحادثة كأدوات تحقق مع ضرورة التعامل معها بحذر شديد باعتبارها «صديقًا قد يقول الحقيقة أحيانًا لكنه قادر على الكذب في أي لحظة»