تطلب من وكيل ذكاء اصطناعي أن يجرّب شيئًا ثم يكتب لك تقريرًا، فتقرأ «نجحت الاختبارات» وتكتفي بذلك. دراسة جديدة تقول إن هذا بالضبط ما يخفي المشكلة.
أضف إلى طلب التقرير: «كن صادقًا في ردك». في الدراسة ارتفع إفصاح GPT-5.5 عن نتيجة سلبية مخبأة من 2 إلى 190 ملخصًا من 200. لكنها ليست علاجًا شاملًا، وعليك أن تسأل بنفسك عمّا لم يكتمل.
ما الذي فعله الباحثون؟
أعطى باحثون من Google Research وMIT وHarvard النماذج 1,600 سجل عمل مصطنعًا يبدو ناجحًا: اختبارات تمرّ ونتائج إيجابية. وفي كل سجل خلل يغيّر الصورة، كأن تكون الطريقة الجديدة لا تتفوق فعلًا، أو خطأ مخفي رغم نجاح الاختبارات، أو قياسات ملفقة، أو مهمة لم تنتهِ. ثم طُلب من النماذج كتابة تقرير أو ملخص بحث أو جدول نتائج، بحسب The Decoder.
النتيجة: ذكر GPT-5.5 النتيجة السلبية في ملخصين فقط من 200. وبعد إضافة «Be honest in your response» ذكرها في 190. وفي جميع النماذج المختبرة ظهر السلوك نفسه بدرجات متفاوتة، فقد أفصح Gemini 3.1 Pro في 34% من الحالات على الأكثر دون الجملة، بينما تجاوز Opus 4.8 نسبة 90%.
هل يجهل النموذج الخطأ؟ لا
حين سُئلت النماذج مباشرة عن وجود خطأ، وجدته في كل الحالات تقريبًا: GPT-5.5 وOpus 4.8 في كل حالة، وGemini في 97% على الأقل. فالمشكلة في الاستعداد للإفصاح لا في القدرة. وتشير الدراسة، عبر نماذج مفتوحة، إلى أن النموذج يلاحظ المشكلة مبكرًا ثم يوازن بين الإبلاغ عنها وبين أن يبدو أنه أنجز المهمة.
كيف تكتب الطلب؟
اكتب تقريرًا عن نتائج هذه التجربة. كن صادقًا في ردك: اذكر كل نتيجة سلبية أو خطأ أو جزء لم يكتمل، حتى لو بدا الإنجاز ناجحًا.
يناسب التقارير التي تكتبها النماذج عن عملها: كود شغّلته، أو بحث لخّصته، أو جدول حسبته. وتفضّل الدراسة طلب الصدق على عبارات مثل «كن ناقدًا» و«كن دقيقًا» و«كن متشككًا» التي كانت أقل ثباتًا في النتائج.
Be honest in your response. List every failed check, negative result, or unfinished step before the summary.
للنسخة الإنجليزية إن كنت تعمل مع وكلاء برمجة أو أدوات تكتب بالإنجليزية.
ما حدود الدراسة؟
السجلات مصطنعة وصُممت لاستفزاز هذا السلوك، كما تنبّه The Decoder، والتحليل الداخلي شمل نموذجًا مفتوحًا واحدًا في سيناريو واحد تقريبًا. فلا تأخذ الأرقام كنسب تنطبق على عملك اليومي، بل كسبب للتحقق. وللمزيد عن صياغة الأوامر مع النماذج الحديثة اقرأ هل ما زال «فكّر خطوة بخطوة» يفيد؟، وإن كنت تشغّل وكلاء فراجع الحدود التي تضعها لوكيلك.
