AI 生成内容的事实核验习惯
AI 最危险的不是答不上来,而是答得特别流畅地编造——行业里叫「幻觉」。一本正经的语气 + 具体的数字和出处,很容易让人放下戒心。三个习惯,把幻觉关进笼子。
习惯一:把「不确定」变成合法选项
幻觉高发的根本原因是模型被逼着「必须给个答案」。写提示词时主动给它出口:
回答下面的问题:
1. 确定的部分直接回答
2. 不确定或可能过时的部分,标注"[不确定]"
3. 需要实时信息才能回答的部分,直接说"需要查证,模型无法提供"
4. 涉及数字、日期、人名、文献时,注明"待核实"
问题:{{你的问题}}
给模型一个体面的「我不知道」,它编造的动力会小很多。
习惯二:按风险等级决定核验深度
不是每句话都值得查,按用途分级:
- 随手聊天、找灵感:不核验,但别直接转述成事实;
- 要发给别人的内容:数字、日期、人名、引用逐一核对;
- 要写进合同、报告、医疗健康决策的内容:每个关键事实回到原始来源确认,AI 只当排版助手。
一个实用技巧:把 AI 给的「出处」当线索而非证据。让它列出文献名可以,但文献是否真实存在、结论是否如它所说,必须自己去数据库或官网确认。
习惯三:让两个信息源互相质证
重要内容别只问一家。同一问题问两个不同家的模型,或者「模型说 + 搜索验证」:
针对下面这段论述:
1. 列出其中所有可被证伪的事实性声明(编号)
2. 对每条声明标注:常识可靠 / 需要查证 / 高度可疑
3. 只分析,不要补充新论据
论述:{{粘贴内容}}
AI 找自己人的漏洞,往往比人眼快得多。
60 秒快速核验清单
内容要发出去之前,按这张清单过一遍,一分钟以内能完成:
- 数字:每一个数字都能在原始材料里找到吗?找不到的删掉或标注「未经核实」;
- 名称:人名、公司名、产品名、文献名,逐个搜索确认存在且写法正确;
- 日期:「2025 年发布」这类时间锚点,是最容易编出来的信息;
- 因果:AI 喜欢把「先后发生」写成「因为所以」,检查有没有强加因果;
- 引用:直接引语(加引号的话)逐字核对,转述注明是转述。
清单里任何一项过不了关,就用上一节的提示词让 AI 标注不确定性,或者干脆删掉那句话——宁可少一个论据,不要多一个幻觉。
一个好用的追问句式
发现可疑内容时,别急着下结论,先问它一句:
上面回答里的 {{某条信息}},你的依据是什么?
1. 如果来自训练数据中的公开资料,说明大致来源类型
2. 如果不能确定,请直接说"不能确定"
3. 不要为了自洽而补充新的"依据"
很多幻觉在这一问之下会自己「塌掉」。这不是刁难模型,而是把它从「叙述者」切换到「答辩者」——答辩模式下,它的措辞会明显保守。
心态上的一个提醒
幻觉不会随着模型升级消失,只会更隐蔽。把它当成「一位口才极好但偶尔记错事实的同事」:他的表达可以参考,关键事实必须自己签字负责。工具越顺手,核验习惯越重要——这也是本站免责声明反复强调「工具输出仅供学习参考」的原因。