为什么模型会一本正经地胡说？

AI 幻觉指模型给出听起来很自信、但缺少可靠依据的答案。它常出现在模型缺少事实 grounding、指令过于宽泛、上下文不足，或任务要求它补全无法验证的细节时。

第一个原因是来源不确定。通用聊天模型会根据模式预测有用文本，但如果流程没有提供来源、检索结果或工具输出，它不会自动知道哪些最新事实为真。当问题涉及人名、数字、政策、价格或近期事件时，答案应该被引用来源约束。

第二个原因是提示词压力。如果用户要求完整清单、精确统计或确定结论，却没有允许不确定性，模型可能为了满足格式而补空。更安全的提示词会说明证据缺失时怎么做：标注未知项、反问补充信息，或把已验证事实和推断分开。

实用做法是设计验证闭环。要求模型给出来源、只摘录它真正使用的证据，并把置信度和答案分开表达。对于商业、法律、医疗、金融或技术决策，最终结论应回到官方文档、合同、发布说明或数据集等一手来源核验。

可靠流程还会限制答案形态。不要一开始就要求润色后的最终稿，而是先让模型输出一张表，包含论断、来源、证据、不确定性和下一步核查。这样错误会先暴露在结构里，而不是被流畅文字包装起来。