طلبتَ من المساعد مصدرًا لمعلومة، فأعطاك عنوان كتاب واسم مؤلف وسنة نشر، وكلها تبدو سليمة. تبحث عن الكتاب فلا تجده. ما حدث له اسم شائع: الهلوسة.
النموذج يولّد الكلمة التالية الأرجح، ولا يفتح قاعدة حقائق ليتحقق. وتقول ورقة بحثية لباحثين في OpenAI (سبتمبر 2025) إن التدريب والتقييم يكافئان التخمين أكثر مما يكافئان قول «لا أعرف».
ماذا نقصد بالهلوسة؟
هي جملة تبدو مقنعة لكنها خاطئة أو لا تطابق المستند الذي أعطيته للنموذج. وتقر Anthropic في دليلها الرسمي بأن حتى أكثر النماذج تقدمًا، ومنها Claude، قد تولّد نصًا غير صحيح أو غير متسق مع السياق المعطى. فالمشكلة ليست في أداة بعينها.
لماذا يخمّن بدل أن يعترف؟
تشبّه الورقة الأمر بطالب في امتحان: إن ترك السؤال فارغًا نال صفرًا، وإن خمّن فله فرصة. ومعظم اختبارات المقارنة بين النماذج تُصحَّح بهذه الطريقة، فتخرج نماذج بارعة في الامتحانات تفضّل الجواب الواثق. وتضيف الورقة سببًا ثانيًا في مرحلة التدريب: إن لم يستطع النموذج التمييز بين عبارة صحيحة وأخرى خاطئة تشبهها، كتاريخ ميلاد شخص ذُكر مرة واحدة، فسيُنتج الخطأ بشكل طبيعي. ويقترح المؤلفون تغيير طريقة تصحيح الاختبارات الشائعة بحيث لا تعاقب من يعترف بعدم المعرفة.
ثلاث طرق تقلل الخطأ
هذه من دليل Anthropic لتقليل الهلوسة، وتنفع في أي مساعد:
- أعطه إذنًا بالاعترافاكتب صراحة: «إن لم تكن متأكدًا أو لم يكن في المستند جواب، قل لا أعرف». يقول الدليل إن هذا وحده قد يقلل المعلومات الكاذبة كثيرًا.
- اطلب الاقتباس قبل التحليلمع المستندات الطويلة (أكثر من 20 ألف توكن) اطلب أولًا مقاطع حرفية ذات صلة، ثم ابنِ الجواب عليها وحدها.
- اطلب دليلًا لكل ادعاءبعد الصياغة، يبحث النموذج عن اقتباس يسند كل جملة، وإن لم يجد فيحذفها.
والأمر الجاهز الذي يجمعها كلها:
أجب عن سؤالي اعتمادًا على المستند المرفق فقط، لا على معلوماتك العامة. 1) استخرج أولًا الاقتباسات الحرفية المتعلقة بالسؤال، وإن لم تجد اكتب: «لا توجد اقتباسات ذات صلة». 2) ابنِ إجابتك على هذه الاقتباسات وأشر إلى رقم كل اقتباس. 3) إن لم يكفِ المستند للإجابة، قل: «لا تكفي المعلومات» ولا تخمّن.
انسخه كما هو في كل مرة، وغيّر «المستند المرفق» إلى «النص التالي» إن كنت تلصق النص مباشرة في المحادثة.
كيف تكشف الهلوسة بنفسك؟
اسأل السؤال نفسه ثلاث مرات في محادثات جديدة؛ إن تغيّر اسم أو رقم أو تاريخ بين الإجابات فاعتبره موضع شك. هذه الطريقة، مقارنة عدة إجابات، مذكورة في دليل Anthropic، وسبب اختلاف الإجابات شرحناه في مقالة درجة الحرارة. ولأسئلة البحث الواسعة يفيد أن تستعين بأداة تعرض مصادرها كما في Deep Research في Gemini، ثم تفتح المصدر بنفسك.
هل اختفت الهلوسة في النماذج الأحدث؟
لا. تقول الورقة إنها تستمر حتى في أحدث الأنظمة، لأن الحافز في التقييم لم يتغير.
هل أصدّق الجواب إن ذكر مصدرًا؟
ليس قبل أن تفتح المصدر؛ فقد يكون العنوان نفسه مختلقًا، كما في مثال الكتاب الذي لا وجود له.
المصادر: Why Language Models Hallucinate (arXiv، 4 سبتمبر 2025) ودليل Anthropic: Reduce hallucinations.
