الهلوسة

لماذا الثقة هي الخطر#

الإجابة الخاطئة الظاهرة غير مؤذية، إذ يلتقطها أحدهم. أما المكلفة فهي المعقولة — رقم في النطاق الصحيح، أو بند يشبه عقدك — لأنها تجتاز المراجعة. فالخطر ليس أن النموذج يخطئ، بل أن خطأه يبدو مطابقًا لصوابه.

ما الذي يقلّلها فعلًا#

إسناد الإجابات إلى مستندات مسترجَعة وإظهار المصادر. والسماح للنظام بأن يقول إنه لا يعرف. والاختبار على مجموعة ثابتة من الأسئلة معروفة الإجابات، تُعاد عند كل تغيير. ويُلاحظ أن أيًّا من هذه ليس اختيارًا للنموذج، بل تصميمًا حوله.