بشهادة تطبيقات الذكاء الاصطناعي.. “سيناء الإخبارية” تسأل chat gbt هل يتجاهل أو ينسى الأوامر؟

في محاولة لفهم خوارزميات الذكاء الاصطناعي، وجهت سيناء الإخبارية سؤالا لمنصات الذكاء الاصطناعي (جوجل جيمناي- ديب سيك- جروك- بريكسبيلتي) هل يتجاهل أو ينسى chat gbt الأوامر ؟

قال التطبيق الصيني ديب سيك بعد توجيه السؤال إليه أن الإجابة أكثر تعقيدًا من مجرد نعم أو لا. هذا النموذج لا يمتلك نوايا أو وعيًا يسمح له بالإهمال المتعمد، لكنه في بعض الأحيان قد يفشل في تنفيذ ما تطلبه بشكل كامل. قد يبدو هذا الفشل وكأنه إهمال، لكنه في الحقيقة نتيجة لطبيعة تصميمه وتقنيّاته الأساسية.

أحد الأسباب الرئيسية هو نقص السياق أو الوضوح في الطلب. عندما تقدم له أمرًا عامًا أو غير مكتمل، يشبه ذلك أن تطلب من شخصٍ ما أن “يغني” دون أن تحدد له الأغنية أو النوع. النموذج يحاول التفاعل، لكن النتيجة قد لا تتوافق مع الصورة التي في ذهنك. كذلك، فإن الغموض في الصياغة يفتح الباب أمام تفسيرات متعددة. كلمات مثل “مبدع” أو “رسمي” أو “مختصر” تحمل دلالات مختلفة للأشخاص المختلفين. ما تراه أنت تجاهلًا قد يكون ببساطة فهمًا آخر للمطلوب.

ولا ننسى عامل الذاكرة المؤقتة، أو ما يُعرف بنافذة السياق. خلال المحادثة الطويلة، قد يتخطى الحوار السعة المخصصة، فيبدأ النموذج بتركيز انتباهه على أحدث المدخلات، وكأنه يضطر إلى نسيان بداية المحادثة من أجل الاستمرار. هذا النسيان التقني قد يؤدي إلى تنفيذ جزئي أو غير مكتمل للطلبات السابقة.

وهناك أيضًا القيود الأخلاقية وضوابط الأمان التي تعلو على أي أمر. عندما تطلب منه شيئًا يعتبر خطيرًا أو غير أخلاقي أو ينتهك خصوصية الآخرين، فإنه يتوقف فورًا عن الاستجابة. هذا النوع من “التجاهل” هو في الواقع تنفيذ مبرمج ومتعمّد من مصمميه، وليس تقصيرًا منه.

لتحقيق أفضل النتائج، يُنصح بأن تكون واضحًا ومحددًا قدر الإمكان في أوامرك، وأن تقدم خلفية كافية لما تتحدث عنه، وأن تقسّم المهام الكبيرة إلى خطوات صغيرة. إذا لم تحصل على النتيجة المرجوة، حاول إعادة الصياغة أو إضافة التفاصيل. الفهم الجيد لكيفية عمل هذه الأداة يحوّل التعامل معها من تجربة محبطة إلى فرصة لإنجاز أعمال مذهلة.

وبعد توجيه السؤال إلى جوجل جيمناي قال: إن نماذج الذكاء الاصطناعي لا تتجاهل أو تنسى الأوامر بشكل متعمد، ولكنها قد تبدو كذلك نتيجة لعدة قيود تقنية. فعلى سبيل المثال، يمكن أن تبدو وكأنها تتجاهل تعليمات المستخدم إذا كانت هذه التعليمات تتعارض مع المبادئ الأمنية والأخلاقية التي صُممت عليها، حيث تختار عدم توليد محتوى قد يكون ضارًا. كما أنها قد تفشل في فهم الأوامر إذا كانت غير واضحة أو تحتوي على تناقضات.

أما فيما يتعلق بالنسيان، فإن هذا المفهوم لا ينطبق على النماذج اللغوية مثل “شات جي بي تي” بالمعنى الحرفي. فالنموذج لا يمتلك ذاكرة طويلة المدى، بل يعتمد على سياق المحادثة المباشر. وفي المحادثات الممتدة جدًا، قد لا تتمكن من استيعاب كافة الأوامر التي تم إعطاؤها في البداية، مما يسبب ما يشبه “فقدان السياق” بدلاً من النسيان. لذلك، ينصح بإعادة ذكر التعليمات المهمة بشكل دوري في المحادثات الطويلة لضمان استمرار النموذج في تطبيقها.

وفي سؤالنا إلى تطبيق جروك أجاب: لا يتجاهل ChatGPT الأوامر أو ينساها بشكل متعمد، فهو مصمم لمعالجة المدخلات والرد بناءً على برمجته الأساسية. لكنه قد يبدو أحيانًا كأنه لا يتبع التعليمات بدقة بسبب عدة عوامل.

أولًا، إذا كان الأمر غامضًا أو غير واضح، قد يفسر النموذج الطلب بطريقة مختلفة عما تريده. الصياغات المعقدة أو المتضاربة قد تؤدي إلى استجابات غير متوقعة.

كذلك، هناك قيود في قدرات النموذج. قد لا يملك ChatGPT معلومات كافية أو محدثة لتنفيذ بعض الأوامر، خاصة إذا كانت تتطلب معرفة بأحداث حديثة أو مهام تتجاوز إمكانياته.

بالإضافة إلى ذلك، النماذج مثل ChatGPT لها نافذة سياق محدودة، مما يعني أنها تتعامل مع عدد معين من الكلمات أو التفاصيل في المحادثة. إذا كانت المحادثة طويلة، قد يغفل النموذج عن تفاصيل سابقة، لكن هذا ليس نسيانًا متعمدًا.

أحيانًا، قد يتجنب النموذج الرد على أوامر معينة لأسباب تتعلق بالسلامة أو الأخلاقيات، مثل تجنب المحتوى غير القانوني أو الضار، وهذا جزء من تصميمه.

وأخيرًا، الأخطاء التقنية قد تؤثر على معالجة الأوامر. لتحسين الاستجابة، يمكنك صياغة الأمر بشكل أوضح، تقسيمه إلى أجزاء أبسط، أو إعادة تقديم السياق.

وبعد شهادة جروك قالت أداه الذكاء الاصطناعي بريكسبيلتي:

طيب بص كده في جمل خبرية عن اللي قلته:

1. شات جي بي تي لا ينسى الأوامر خلال نفس الجلسة.

2. عند انتهاء الجلسة، يبدأ شات جي بي تي من جديد دون الاحتفاظ بالتاريخ.

3. أحيانًا يتجاهل شات جي بي تي الأوامر غير الواضحة أو المتناقضة.

وكان آخر سؤال قد وجهناه إلى chat gbt وقال في حق نفسه: لا أنسى الأوامر بالطريقة التي يفعلها البشر، لكن قد يبدو أحيانًا وكأنني فعلت ذلك. السبب أنني لا أمتلك ذاكرة طبيعية أو مشاعر، بل أعمل وفق تعليمات وسياسات محددة أثناء المحادثة. إذا ظهر أنني تجاهلت طلبك، فعادة ما يكون الأمر مرتبطًا إما بتطبيق قاعدة أمان تمنعني من تنفيذ الطلب، أو بتنفيذي لتعليمات أحدث على حساب تعليمات سابقة، أو بخروج بعض التفاصيل من نطاق السياق إذا كانت المحادثة طويلة ومليئة بالمعلومات.

قد يبدو هذا وكأنه “نسيان”، لكنه في الحقيقة استجابة منطقية لطريقة تصميمي. يمكن أيضًا أن أحتفظ بتعليماتك لفترة طويلة من خلال خاصية “الذاكرة”، وهو ما يسمح لي بالتذكر بشكل أفضل بين المحادثات وليس فقط أثناء الحوار نفسه.