هلوسة الذكاء الاصطناعي أن يعطيك النموذج معلومة خاطئة أو مختلقة بأسلوب واثق ومقنع. تحدث لأن النماذج تتوقع النص الأكثر احتمالًا إحصائيًا، لا لأنها «تعرف» الحقيقة. وتقليلها ممكن، لكن إلغاءها تمامًا غير ممكن.
لماذا تحدث؟
بحسب شرح IBM، تعمل النماذج التوليدية بمطابقة الأنماط لا بفهم الصواب والخطأ، ومن أسباب الهلوسة: أخطاء في بيانات التدريب، وتصميم يستهدف الاحتمال الإحصائي لا الدقة، وتعلّق النموذج بارتباطات زائفة، وأحيانًا أوامر خبيثة تستغل ذلك.
وتذكر IBM مثالًا شهيرًا من 2023: محامٍ طلب من ChatGPT سوابق قضائية فاختلق أسماء قضايا وأرقام ملفات واقتباسات بصيغة تبدو حقيقية، واكتشفت المحكمة لاحقًا أنها وهمية.
كيف تقلل الهلوسة؟
- اطلب مصادر وافتحهاإن أعطاك النموذج رابطًا أو اسم دراسة فتأكد من وجوده فعلًا.
- أعطه النص بنفسكألصق المقال أو الجدول واطلب الإجابة منه فقط، لا من «معلوماته».
- اطلب منه قول «لا أعرف»أضف: «إن لم تكن متأكدًا فقل ذلك ولا تخمّن».
- قسّم السؤال الكبيرالأسئلة الدقيقة والقصيرة أقل عرضة للاختلاق.
- راجع الأرقام والتواريخهذه أكثر الأماكن التي يخطئ فيها النموذج بثقة.
وتوصي IBM بالمراجعة البشرية في الحالات عالية المخاطر، وباستخدام تقنية RAG التي تربط النموذج بقاعدة معرفة موثوقة.
هل تختلف الأدوات؟
كل النماذج التوليدية معرّضة للهلوسة بدرجات متفاوتة، والأدوات التي تبحث في الويب وتعرض مصادرها تسهّل عليك التحقق. للتعرف على أدوات مجانية متنوعة جرّبها بنفسك مع هذه النصائح، راجع أفضل 20 أداة ذكاء اصطناعي مجانية.
أمثلة على أماكن تظهر فيها الهلوسة
- المراجع والروابط: أسماء دراسات أو كتب تبدو حقيقية وهي مختلقة.
- الأرقام والتواريخ: إحصاءات دقيقة الشكل بلا مصدر.
- الأحداث الحديثة: أسئلة عن أخبار بعد تاريخ تدريب النموذج إن لم تكن الأداة تبحث في الويب.
- الشيفرة: دوال أو مكتبات غير موجودة تُكتب بثقة.
القاعدة العملية: كلما كان الجواب أدق شكلًا (رقم، اقتباس، رابط)، زادت حاجتك للتحقق منه بنفسك. والأسلوب الواثق للنموذج ليس دليلًا على صحة الكلام.
جملة تضيفها لأي أمر
أجب فقط بما أنت متأكد منه، واذكر مستوى ثقتك، وضع علامة (غير مؤكد) أمام أي معلومة لا تستند إلى مصدر.
هذه الصيغة لا تلغي الهلوسة، لكنها تساعدك على اكتشاف مواضع الشك بسرعة.
هل الهلوسة كذب متعمد؟
لا. النموذج لا ينوي الخداع، لكنه يولّد نصًا محتملًا قد يكون خاطئًا.
هل يختفي الخطأ مع النماذج الأحدث؟
تتحسن الدقة، لكن IBM تؤكد أن الهلوسة ملازمة للذكاء الاصطناعي التوليدي ويمكن تقليلها لا إلغاؤها.
المصادر: IBM: AI hallucinations
