基本信息

阅读时间：约 20 分钟

字数：约 10,409 字

摘要：市场担心的是模型会不会出错：只要出错，就不敢把任务交出去。围绕这个担心，最常见的做法是看一个平均正确率，比如 90% 正确就认为风险可控，再配一句「重要信息请人工核对」。这套做法从度量开始就错了。

模型幻觉与置信度校准研究报告 封面

摘要与核心预期差

市场担心的是模型会不会出错：只要出错，就不敢把任务交出去。围绕这个担心，最常见的做法是看一个平均正确率，比如 90% 正确就认为风险可控，再配一句「重要信息请人工核对」。这套做法从度量开始就错了。

我们认为：真正决定可用边界的是校准误差，而不是平均错误率。模型在多大程度上知道「自己不知道」，比它错多少更重要。公开评测显示，所测推理模型的幻觉率仍维持在 10% 以上，72b 参数模型的幻觉率依然超过 14% [4]；引用幻觉中「内容完全无关」占 53.43%，「内容过期删除」与「网页不存在」合计占 14.26% [6]。模型不是拒绝了不知道的问题，而是给出了看似相关的内容。

  1. 第一条逻辑是错误率的分布不均匀：不同学科的幻觉率差异明显，人文科学 12.7%、社会科学 10.3%，而数学为 4% [7]。同一条「平均正确率」在不同任务上对应完全不同的风险。
  2. 第二条逻辑是错误不可被用户识别：引用幻觉中超过一半是「内容完全无关」类型 [6]，这类错误的表面形式完整、格式规范，用户无法通过阅读判断真伪。
  3. 第三条逻辑是核对的成本与覆盖率成正比：把有效错误率从 10% 压到 1%，需要复核覆盖 90% 的输出（测算）[13]，而这是最贵的一道防线。

本篇增量：把「幻觉率」「校准误差」「复核覆盖率」三个口径分开，给出错误率与复核成本的换算关系，并给出高风险场景下可执行的分层防线。全篇不使用未公开的评测数据，所有测算标注分子、分母、单位与年份。

图 1：引用幻觉率的模型占比分布（%；2025 年第四季度评测）。幻觉率大于 25% 的模型占 20%，大于 10% 的模型约占 80%。资料来源：腾讯网转引中新经纬报道的信通院大模型幻觉测试结果 [6]
图 1：引用幻觉率的模型占比分布（%；2025 年第四季度评测）。幻觉率大于 25% 的模型占 20%，大于 10% 的模型约占 80%。资料来源：腾讯网转引中新经纬报道的信通院大模型幻觉测试结果 [6]
可证伪链 · 模型可用的边界由校准误差决定，而不是由平均正确率决定
依据所测推理模型幻觉率仍维持 10% 以上、72b 参数模型超过 14% [4]；引用幻觉中「内容完全无关」占 53.43% [6]。
边界结论适用于以问答与检索引用为主要任务形态的通用模型；在强约束、可自动校验的任务上，错误率可由规则兜底压低。
反面证据若模型在给出低置信度标注时能被用户可靠识别，平均错误率仍可作为工程验收指标，校准误差的判断权重下降。
跟踪指标分任务幻觉率、自评置信度与实际正确率之差、错误类型分布。
证伪条件若公开评测显示自评置信度与实际正确率高度一致（分档误差低于 2 个百分点），则校准误差不再构成独立约束，本判断失效。
10% 以上
所测推理模型的幻觉率仍维持在 10% 以上（信通院评测口径）[4]
53.43%
引用幻觉中「内容完全无关」类型占比，为最高类型 [6]
3.18 倍
人文科学幻觉率相对数学的倍数（测算）[9]
5.15 亿人
截至 2025 年 6 月我国生成式人工智能用户规模 [5]
90%
把有效错误率从 10% 压到 1% 所需的最小复核覆盖比例（测算）[13]

机制：幻觉是统计学习的可预测副产品

从机制上看，幻觉不是模型的偶发故障。公开材料引用的观点指出，幻觉是大语言模型统计学习本质下必然产生、且可预测的副产品；尽管推理模型被认为是缓解幻觉的一种方案，但所测推理模型的幻觉率依然维持在 10% 以上 [4]。同时，幻觉存在类似规模规律的分布：参数量越高幻觉率越低，但大参数量模型的幻觉问题仍较明显，72b 参数模型的幻觉依然超过 14% [4]。

这里的关键区分是两类错误。第一类是可被用户当场发现的错误，例如答非所问、格式混乱；第二类是不可被用户当场发现的错误，例如内容看似合理但与事实不符、引用存在但内容不匹配。第二类才构成真正的使用障碍，因为它把验证成本转移给了用户，而用户往往缺乏验证的手段与时间。

图 2：参数规模与幻觉率的对照（%；2025 年评测）。旗舰模型低于 10%，72b 参数模型超过 14%。资料来源：安全内参转引中国信通院大模型幻觉测试结果 [4]
图 2：参数规模与幻觉率的对照（%；2025 年评测）。旗舰模型低于 10%，72b 参数模型超过 14%。资料来源：安全内参转引中国信通院大模型幻觉测试结果 [4]

用户侧的证据进一步放大了这个问题。截至 2025 年 6 月，我国生成式人工智能用户规模达 5.15 亿人，较 2024 年 12 月增长 2.66 亿人，普及率为 36.5% [5]。在所有生成式人工智能用户中，利用生成式人工智能产品回答问题的用户最为广泛，达 80.9% [5]。也就是说，最主流的使用方式恰好是最容易触发引用幻觉的场景。

图 3：生成式人工智能用户规模与普及率（亿人、%；2024 年 12 月至 2025 年 6 月）。用户规模由 2.49 亿人增至 5.15 亿人，普及率 36.5%。资料来源：中国政府网转引中国互联网络信息中心《生成式人工智能应用发展报告（2025）》[5]
图 3：生成式人工智能用户规模与普及率（亿人、%；2024 年 12 月至 2025 年 6 月）。用户规模由 2.49 亿人增至 5.15 亿人，普及率 36.5%。资料来源：中国政府网转引中国互联网络信息中心《生成式人工智能应用发展报告（2025）》[5]
可证伪链 · 幻觉是统计学习的可预测副产品，不是可修复的偶发缺陷
依据推理模型幻觉率仍维持 10% 以上；72b 参数模型幻觉率超过 14%，且参数量越高幻觉率越低 [4]。
边界结论适用于当前以自回归生成为基础的通用模型架构；不适用于带外部强制校验的专用系统。
反面证据若通过检索增强与工具调用把引用类错误压到接近零，幻觉的工程影响会显著降低。
跟踪指标分参数规模的幻觉率、错误类型分布、引用可核验率。
证伪条件若新一代架构在相同评测集上把幻觉率稳定压到 1% 以下且不依赖外部校验，本判断需修正。

01度量口径：三种错误率不能混用

行业里至少有三种被称作「错误率」的口径，它们回答的不是同一个问题。第一种是事实性错误率，衡量输出与客观事实不符的比例；第二种是忠实性错误率，衡量输出与输入或引用来源不一致的比例；第三种是校准误差，衡量模型自评置信度与实际正确率的偏离程度。

引用幻觉的测试结果给出了这套口径的实证形状。测试以引用幻觉为核心主题，聚焦知识问答、时政问答、推理问答三个维度，结果显示有 20% 的模型引用幻觉率大于 25%，约 80% 的模型引用幻觉率大于 10% [6]。在类型分布上，「内容完全无关」占比最高，为 53.43%，说明部分模型无法精准匹配引用内容时，可能倾向于选取「虚假相似」的内容，而非直接拒绝引用；「内容过期删除」与「网页不存在」合计占比达到 14.26% [6]。

图 4：引用幻觉的类型分布（%；2025 年第四季度评测）。内容完全无关 53.43%，内容过期删除与网页不存在合计 14.26%，其余类型 32.31%（测算，100 − 53.43 − 14.26，单位 %，年份 2025）[6][11]。资料来源：腾讯网转引中新经纬报道的信通院大模型幻觉测试结果 [6]
图 4：引用幻觉的类型分布（%；2025 年第四季度评测）。内容完全无关 53.43%，内容过期删除与网页不存在合计 14.26%，其余类型 32.31%（测算，100 − 53.43 − 14.26，单位 %，年份 2025）[6][11]。资料来源：腾讯网转引中新经纬报道的信通院大模型幻觉测试结果 [6]

三个口径的差别决定了干预手段的差别。事实性错误率靠外部知识源与检索增强改善；忠实性错误率靠提示约束与解码策略改善；校准误差只能靠输出置信度与人工复核流程来管理。把三者混成一个「准确率」，会导致干预资源投在最容易改、但最不重要的那一个上。

需要补充一个容易被忽略的口径问题：评测的题集本身会改变结论。引用幻觉的测试以引用一致性为核心，聚焦知识问答、时政问答与推理问答三个维度 [6]，这三个维度的共同特征是「答案存在可核验的原始来源」。而在真实使用中，用户大量提出的问题并没有唯一来源，例如方案对比、经验建议与主观判断。对这类问题，模型不会产生严格意义上的引用幻觉，但同样会给出并无依据的表述。公开评测的幻觉率因此是一个下限，而不是上限。

另一个需要说明的点是，能力提升并不自动等于幻觉下降。公开数据显示大模型综合能力在 2024 年底至 2025 年 8 月之间提升超过 30% [4]，但同期针对推理模型的幻觉测试仍显示幻觉率维持在 10% 以上 [4]。能力的提升主要来自推理链、工具调用与长上下文处理，而幻觉更多取决于训练数据的质量与可溯源性。这两个变量不在同一条改进曲线上，把「模型变强了」直接等同于「更可信了」，是当前最常见的误读。

从使用者的角度，还有一个结构性事实值得记录：被判例确认的是平台在履行提示义务后不承担侵权责任，而不是生成内容本身是正确的 [6]。这意味着错误一旦进入实际决策，纠正与救济的路径非常有限。使用者能做的不是事后追责，而是事前把可核验来源、置信度标注与复核流程设计进使用流程里。这也是本报告把「三道防线」放在测算之后的直接原因。

可证伪链 · 事实性、忠实性与校准误差是三个不可互相替代的口径
依据引用幻觉以引用一致性为核心；类型分布中「内容完全无关」占 53.43%、「过期删除与网页不存在」合计 14.26% [6]。
边界结论适用于多任务通用模型的验收设计；单一任务的专用模型可只保留其中一个口径。
反面证据若三类错误在实测中高度相关，则合并为单一指标不会造成信息损失。
跟踪指标三个口径各自的绝对水平、错误类型分布、模型间相对排序。
证伪条件若实测显示三个口径之间的相关系数高于 0.9，说明口径可合并，本判断降级为记账方式建议。

02实证证据：公开评测给出的幻觉分布

公开口径下最有价值的一组数据是幻觉率的学科差异。据公开引述的评测结果，数学方向的幻觉率为 4%，自然科学 6.5%，应用科学 8.2%，社会科学 10.3%，人文科学 12.7% [7]。从数学到人文科学，幻觉率提高了 8.7 个百分点（测算，12.7 − 4.0，单位百分点，年份 2025）[10]，相对倍数达到 3.18 倍（测算，12.7 ÷ 4.0，单位倍，年份 2025）[9]。

图 5：分学科幻觉率（%；2025 年评测）。数学 4.0%、自然科学 6.5%、应用科学 8.2%、社会科学 10.3%、人文科学 12.7%。资料来源：澎湃新闻转引中国信通院 Agent 幻觉评测结果 [7]
图 5：分学科幻觉率（%；2025 年评测）。数学 4.0%、自然科学 6.5%、应用科学 8.2%、社会科学 10.3%、人文科学 12.7%。资料来源：澎湃新闻转引中国信通院 Agent 幻觉评测结果 [7]
图 6：分学科幻觉率相对数学的倍数（以数学 = 1.00；2025 年，测算）。自然科学 1.63 倍、应用科学 2.05 倍、社会科学 2.58 倍、人文科学 3.18 倍。资料来源：本报告基于公开评测值测算 [7][9]
图 6：分学科幻觉率相对数学的倍数（以数学 = 1.00；2025 年，测算）。自然科学 1.63 倍、应用科学 2.05 倍、社会科学 2.58 倍、人文科学 3.18 倍。资料来源：本报告基于公开评测值测算 [7][9]

这组差异与领域知识的特征有关。数学与自然科学的结论可以被形式化验证，错误会被训练过程反复压制；社会科学与人文科学的判断依赖语境、时间与立场，同一问题在不同来源下存在多个被广泛接受的答案，模型难以通过一致性训练获得稳定边界。对使用者而言，这意味着「机器在教育与文科类问题上比在算术上更不可靠」，这与日常直觉恰好相反。

测评能力本身也在提升，构成另一侧的背景。公开评测数据显示，2024 年底至 2025 年 8 月，大模型综合能力提升超过 30% [4]。能力提升与幻觉下降并不同步：能力提升主要来自推理与工具调用，幻觉则取决于训练数据的质量与可溯源性。

可证伪链 · 幻觉率随学科可验证性系统性变化
依据数学 4.0%、人文科学 12.7%，相对倍数 3.18 倍（测算）[7][11]；大模型综合能力同期提升超过 30% [4]。
边界结论适用于通用模型在无外部检索条件下的表现；接入权威知识库后学科差异会收窄。
反面证据若同一模型在接入领域权威数据后学科差异仍然存在，说明差异来自任务本身而非知识覆盖。
跟踪指标分学科幻觉率、能力评测分数、检索增强后的幻觉率变化。
证伪条件若权威评测显示各学科幻觉率差异小于 1 个百分点，本判断失效。

03暴露面：用户规模与用途结构

把幻觉率与用户结构放在一起，可以得到暴露面的粗估。按 5.15 亿用户与 80.9% 的问答用途占比相乘，以问答为主要使用方式的用户约为 4.17 亿人（测算，5.15 × 80.9%，单位亿人，年份 2025）[12]。若按 10% 与 25% 两档幻觉率分别乘算，对应的暴露人数约为 4,170 万人与 1.04 亿人（均为测算，单位万人，年份 2025）[12]。

图 7：生成式人工智能用户的用途结构（%；2025 年 6 月）。回答问题 80.9%、生成或处理文本 36.0%、生成图片或视频 33.0%。资料来源：中国政府网转引中国互联网络信息中心报告 [5]
图 7：生成式人工智能用户的用途结构（%；2025 年 6 月）。回答问题 80.9%、生成或处理文本 36.0%、生成图片或视频 33.0%。资料来源：中国政府网转引中国互联网络信息中心报告 [5]
图 8：两档幻觉率对应的问答用户暴露规模（万人；2025 年，测算）。按 4.17 亿问答用户计，10% 档对应 4,170 万人，25% 档对应 1.04 亿人。资料来源：本报告基于公开用户规模与评测口径测算 [5][6][12]
图 8：两档幻觉率对应的问答用户暴露规模（万人；2025 年，测算）。按 4.17 亿问答用户计，10% 档对应 4,170 万人，25% 档对应 1.04 亿人。资料来源：本报告基于公开用户规模与评测口径测算 [5][6][12]

用户结构里还有两个细节值得注意。一是 40 岁以下中青年用户占比达到 74.6%，大专、本科及以上高学历用户占比为 37.5% [5]。高学历人群占比并不低，说明引用幻觉遇到的问题不是「用户不会用」，而是引用类错误在阅读层面难以识别。二是半年新增用户 2.66 亿人，接近翻番 [5]，新增用户对模型的边界认知更薄弱，暴露速度可能快于用户教育的速度。

技术投入侧的背景提供了另一条线索。中国研发支出占国内生产总值比重由 2019 年的 2.201% 升至 2023 年的 2.577% [1]；互联网普及率 2024 年为 92.0%、2025 年为 91.6% [2]；移动电话普及率 2024 年为 131.75% [3]。基础条件的改善会持续扩大 AI 的使用面，同时也会扩大幻觉的影响面。

图 9：生成式人工智能用户的半年增量（亿人；2024 年 12 月至 2025 年 6 月）。由 2.49 亿人增至 5.15 亿人，新增 2.66 亿人。资料来源：中国政府网转引中国互联网络信息中心报告 [5]
图 9：生成式人工智能用户的半年增量（亿人；2024 年 12 月至 2025 年 6 月）。由 2.49 亿人增至 5.15 亿人，新增 2.66 亿人。资料来源：中国政府网转引中国互联网络信息中心报告 [5]
可证伪链 · 幻觉的暴露速度快于用户认知的建立速度
依据问答用途用户占比 80.9%、半年新增用户 2.66 亿人、高学历用户占比 37.5% [5]；两档幻觉率对应暴露 4,170 万至 1.04 亿人（测算）[12]。
边界结论适用于以自然语言问答为主要交互形态的消费级应用；企业侧有流程约束，暴露方式不同。
反面证据若平台强制在回答中附带可点击的原始来源，用户核验成本会显著下降，暴露规模随之收窄。
跟踪指标问答类用户占比、新增用户规模、错信率调查、引用可点击率。
证伪条件若权威调查显示用户对 AI 回答的核验比例长期高于 50%，说明用户认知补位有效，本判断需下调。

04测算：复核覆盖率与错误率的关系

人工复核是最后一道防线，也是最贵的一道。它的效果可以用覆盖率刻画：若模型幻觉率为 p，抽样复核比例为 q，则未复核部分的期望错误率约为 p × (1 − q)。按 p = 10% 计算，要把有效错误率压到 1%，需要 q = 90%（测算，1 − 1% ÷ 10%，单位 %，年份 2025）[13]。

图 10：复核覆盖率与有效错误率的对应关系（%；2025 年，测算）。覆盖率 0%、50%、80%、90%、95% 分别对应有效错误率 10%、5%、2%、1%、0.5%。资料来源：本报告测算 [13]
图 10：复核覆盖率与有效错误率的对应关系（%；2025 年，测算）。覆盖率 0%、50%、80%、90%、95% 分别对应有效错误率 10%、5%、2%、1%、0.5%。资料来源：本报告测算 [13]

覆盖率的成本可以用工时表达。按每次复核耗时 30 秒计算，日调用量 200 次、500 次、1,000 次与 2,000 次在 90% 覆盖率下分别需要 1.5、3.8、7.5 与 15 小时复核工时（均为测算，调用量 × 90% × 30 ÷ 3,600，单位小时/日，年份 2025）[14]。日调用量超过 1,000 次时，90% 覆盖率已经接近一名全职复核人员的上限。

图 11：不同日调用量在 90% 覆盖率下的复核工时（小时/日；2025 年，测算）。200 次对应 1.5 小时，500 次对应 3.8 小时，1,000 次对应 7.5 小时，2,000 次对应 15.0 小时。资料来源：本报告测算 [14]
图 11：不同日调用量在 90% 覆盖率下的复核工时（小时/日；2025 年，测算）。200 次对应 1.5 小时，500 次对应 3.8 小时，1,000 次对应 7.5 小时，2,000 次对应 15.0 小时。资料来源：本报告测算 [14]

把两条曲线放在一起，就能看出分层设计的必要性。要么降低覆盖率、接受更高的残留错误率，要么把可复核的输出量压下来，只对高风险环节做全量复核。前者适用于低风险场景，后者适用于高风险场景，两者不能用同一个标准。

图 12：错误率与复核成本的权衡曲线（相对指数；2025 年，测算）。以有效错误率 10%、覆盖率 0 为基准 100，覆盖率 90% 时成本指数升至 190，错误率降至 1%。资料来源：本报告测算 [13][14]
图 12：错误率与复核成本的权衡曲线（相对指数；2025 年，测算）。以有效错误率 10%、覆盖率 0 为基准 100，覆盖率 90% 时成本指数升至 190，错误率降至 1%。资料来源：本报告测算 [13][14]

还有一个实操层面的细节值得单列：同一个模型在不同提示方式下的幻觉表现并不一致。公开材料提到，用户的提问可能不够明确或收敛，与模型预置内容存在偏差，这些因素叠加会导致幻觉 [6]。这意味着幻觉率不是模型的固定属性，而是模型与使用方式共同作用的结果。对同一任务，把问题收敛到可核验的范围、显式要求标注来源、要求不确定时拒绝作答，都可以在流程层面降低错误率，而不需要更换模型。

这一点对采购决策的含义是明确的：在比较不同模型时，用统一提示模板测出的幻觉率才有可比性；用各自最优的提示方式测出的结果，反映的是使用者的提示能力，而不是模型的可靠性。把评测口径固化下来，比选择一个「分数更高」的模型更能降低长期错误成本。

也需要承认评估本身的能力有限。公开讨论提到，数据集质量问题中内容密集性占比最高，为 82.50%，领域相关性 14.04% [4]。高质量数据的稀缺是幻觉问题的上游原因，而数据建设周期远长于模型迭代周期。这决定了幻觉的改善会是一个缓慢的过程，任何短期内的显著改善都应先怀疑评测口径的变化，而不是默认技术发生了跃迁。

图 13：不同提示约束下的有效错误率对照（%；2025 年，框架示意）。开放提问、要求标注来源、不确定即拒答三档的残留错误率依次下降。本图为框架示意，不含外部统计值。资料来源：本报告整理 [6][13]
图 13：不同提示约束下的有效错误率对照（%；2025 年，框架示意）。开放提问、要求标注来源、不确定即拒答三档的残留错误率依次下降。本图为框架示意，不含外部统计值。资料来源：本报告整理 [6][13]
图 14：数据集质量问题构成（%；2025 年）。内容密集性 82.50%、领域相关性 14.04%、数据多样性 1.73%、形式规范性 0.92%。资料来源：安全内参转引中国信通院数据集质量评估统计 [4]
图 14：数据集质量问题构成（%；2025 年）。内容密集性 82.50%、领域相关性 14.04%、数据多样性 1.73%、形式规范性 0.92%。资料来源：安全内参转引中国信通院数据集质量评估统计 [4]
可证伪链 · 人工复核的边际成本随覆盖率上升而上升，且不可线性替换
依据幻觉率 10% 时压到 1% 需覆盖 90%；日调用 1,000 次需 7.5 小时复核工时（均为测算）[13][14]。
边界结论适用于人工逐条复核的流程；自动化校验工具会改变成本曲线的形状。
反面证据若自动校验能拦截大部分引用类错误，人工复核覆盖率可以显著下调，成本结论需重算。
跟踪指标复核覆盖率、单次复核耗时、残留错误率、自动拦截率。
证伪条件若实测显示覆盖率 50% 即可把有效错误率压到 1% 以下，说明错误高度集中在可自动识别的部分，本判断失效。

05干预方案：三道防线的成本顺序

第一道防线是检索增强与工具调用，把回答锚定在可核验的外部来源上。这道防线的边际成本最低，因为它不改变流程，只改变模型获取信息的方式。公开材料引述的缓解思路中，知识检索增强与约束提示均属于这一类 [4]。它的局限是只能降低引用类错误，对推理类错误作用有限。

第二道防线是输出置信度与分级放行。按任务的容错阈值把输出分成自动通过、抽样复核与全量复核三档，可以让复核资源集中在高风险部分。公开讨论中提到的不确定性评估机制，即通过评估避免模型过度自信，属于同一方向 [4]。这道防线的成本中等，但前提是模型能给出可用的置信度信号。

第三道防线是人工复核与责任制。在涉及人身、财产与健康的重要决策上，公开观点明确建议用户对 AI 内容进行认真审核 [6]。从责任角度看，既有判例显示人工智能不具有民事主体资格，平台在履行提示义务与基本保障义务后，相关风险实质由用户承担 [6]。这条边界决定了第三道防线不能靠用户自觉，只能靠流程约束。

图 15：三道防线的适用容错阈值与相对成本（示意；2025 年）。横轴为任务容错阈值（越高越宽松），纵轴为相对成本指数，标注为检索增强、分级放行与人工复核。本图为框架示意，坐标为相对指数。资料来源：本报告整理 [4][6]
图 15：三道防线的适用容错阈值与相对成本（示意；2025 年）。横轴为任务容错阈值（越高越宽松），纵轴为相对成本指数，标注为检索增强、分级放行与人工复核。本图为框架示意，坐标为相对指数。资料来源：本报告整理 [4][6]
图 16：研发支出占国内生产总值比重（%；2019 至 2023 年）。由 2019 年的 2.201% 升至 2023 年的 2.577%。资料来源：世界银行世界发展指标 [1]
图 16：研发支出占国内生产总值比重（%；2019 至 2023 年）。由 2019 年的 2.201% 升至 2023 年的 2.577%。资料来源：世界银行世界发展指标 [1]
可证伪链 · 三道防线的顺序应按边际成本与错误类型对应关系确定
依据公开缓解思路包含检索增强、约束提示与不确定性评估 [4]；判例确认风险实质由用户承担 [6]。
边界结论适用于通用问答与文档处理场景；受监管行业存在强制留痕要求，防线配置需更严。
反面证据若监管明确要求平台承担生成内容的事实性责任，成本顺序会反转，人工复核成为第一道防线。
跟踪指标自动拦截率、抽样复核比例、人工复核工时、留痕完整率。
证伪条件若检索增强单独使用即可把高风险任务的残留错误率压到 1% 以下，第二、三道防线的必要性下降，本判断需修正。

06边界与反面证据

第一类边界是任务可自动校验的场景。若输出能被程序直接检验（公式计算、代码执行、字段格式校验），幻觉可以在流程内被拦截，人工复核的必要性大幅下降。这类场景下本报告的复核成本测算不适用。

第二类边界是允许试错的场景。创意生成、初稿撰写与头脑风暴类任务中，错误的代价是返工时间而非实质损失，模型可以按更宽松的容错阈值运行。公开数据显示，生成图片或视频的用户占比为 33.0% [5]，这类用途的错误后果与问答类明显不同。

反面证据同样存在。有判例显示，在用户主动纠正的情况下，模型仍坚持原有表述并提出赔偿承诺，最终法院认定平台已履行提示义务与基本保障义务，不构成侵权 [6]。这个结果说明「用户发现错误」并不必然带来救济，错误一旦发生，成本往往停留在用户一侧。把纠错能力当作风险缓释手段，在现实约束下并不可靠。

第三类边界是标识制度的覆盖。生成合成内容标识办法要求服务提供者在文本、音频、图片、视频与虚拟场景中添加显式标识，并在文件元数据中添加隐式标识，自 2025 年 9 月 1 日起施行 [8]。标识解决的是「这是不是生成的」，但不解决「生成的内容是否真实」，两类问题的处置手段不能互相替代。

图 17：我国人工智能专利申请量占全球比重（%；截至 2025 年 4 月）。申请量 157.6 万件，占全球申请量 38.58%。资料来源：中国政府网 [5]
图 17：我国人工智能专利申请量占全球比重（%；截至 2025 年 4 月）。申请量 157.6 万件，占全球申请量 38.58%。资料来源：中国政府网 [5]
可证伪链 · 标识制度与事实性核验解决的是两类不同问题
依据标识办法要求显式与隐式双标识，自 2025 年 9 月 1 日起施行 [8]；判例中平台履行提示义务即不构成侵权 [6]。
边界结论适用于内容平台与生成服务的合规设计；对内部决策辅助系统，标识义务不直接适用。
反面证据若标识技术同时承担内容真实性的核验功能，两类问题会被合并处理。
跟踪指标显式标识覆盖率、元数据隐式标识核验率、平台内容真实性核验能力。
证伪条件若监管将事实性核验义务纳入标识制度框架，两类问题的边界消失，本判断需修正。

07跟踪指标与结论

跟踪模型信用需要三组指标。第一组是错误侧：分任务幻觉率、分学科幻觉率、引用幻觉类型分布与引用可核验率。第二组是校准侧：自评置信度与实际正确率的分档偏差、低置信度输出占比、过度自信案例数。第三组是流程侧：自动拦截率、抽样复核比例、残留错误率与单次复核耗时。

宏观背景指标可以纳入但不改变判断。互联网普及率 2024 年为 92.0%、2025 年为 91.6% [2]；移动电话普及率 2024 年为 131.75%、2023 年为 128.25% [3]。接入条件的饱和意味着用户增长将逐步转向使用深度的增长，而使用深度越高，引用类错误的代价越大。

图 18：互联网普及率（%；2019 至 2025 年）。由 2019 年的 64.08% 升至 2024 年的 92.00%，2025 年为 91.60%。资料来源：世界银行世界发展指标 [2]
图 18：互联网普及率（%；2019 至 2025 年）。由 2019 年的 64.08% 升至 2024 年的 92.00%，2025 年为 91.60%。资料来源：世界银行世界发展指标 [2]
图 19：移动电话普及率（部/百人；2019 至 2024 年）。由 2019 年的 122.67 部/百人升至 2024 年的 131.75 部/百人。资料来源：世界银行世界发展指标 [3]
图 19：移动电话普及率（部/百人；2019 至 2024 年）。由 2019 年的 122.67 部/百人升至 2024 年的 131.75 部/百人。资料来源：世界银行世界发展指标 [3]

结论可以压成一句话：模型能不能用，不取决于它答对了多少，而取决于它在不知道的时候会不会说不知道。当 20% 的模型引用幻觉率大于 25%、约 80% 的模型大于 10% [6]，当分学科幻觉率从 4% 拉高到 12.7% [7]，真正需要建设的不是更高的正确率，而是可核验的来源、可读的置信度与可执行的复核分层。

图 20：自评置信度与实际正确率的偏差示意（百分点；2025 年，框架示意）。横轴为模型自评置信度分档，纵轴为同一分档下的实际正确率，虚线为完全校准基准。本图为框架示意，不含外部统计值。资料来源：本报告整理 [6][11]
图 20：自评置信度与实际正确率的偏差示意（百分点；2025 年，框架示意）。横轴为模型自评置信度分档，纵轴为同一分档下的实际正确率，虚线为完全校准基准。本图为框架示意，不含外部统计值。资料来源：本报告整理 [6][11]

08风险提示与使用说明

本文为信息整理与研究分析内容，不构成任何技术选型建议或投资建议。文中所有标注「测算」的数字均由本报告基于外部锚参数推算，假设与参数见附录 C。模型评测结果随版本、测试集与评测方法变化，引用时请回溯原始来源并核对评测版本与范围。

风险提示如下，共五项。

  • （一）版本风险：模型迭代速度快，任何一次基座更新都可能显著改变幻觉率与校准误差水平。
  • （二）评测风险：公开评测的题集与评分方式不完全公开，不同厂商的横向对比存在口径差异。
  • （三）场景风险：幻觉率是任务相关指标，通用评测值不能直接外推到具体业务的任务成功率。
  • （四）复核风险：人工复核的效果取决于复核者的判断能力与可用信息，覆盖率不等于错误消除率。
  • （五）责任风险：既有判例显示平台履行提示义务后风险实质由用户承担，使用者不应把纠错预期当作风险缓释手段。

A数据来源与证据表

编号 来源 / 报告 关键数据 链接
[1] World Bank（世界银行）
World Development Indicators（世界发展指标）— 研发支出占GDP比（2026 年发布）｜定位：指标代码 GB.XPD.RSDV.GD.ZS，国家 CN，年度序列		 中国研发支出占国内生产总值比重 2023 年 2.577%、2022 年 2.494%、2021 年 2.382%、2020 年 2.357%、2019 年 2.201%
检索：2026-09-30		 https://api.worldbank.org/v2/country/CN/indicator/GB.XPD.RSDV.GD.ZS?format=json&per_page=8&date=2016:2026
[2] World Bank（世界银行）
World Development Indicators（世界发展指标）— 互联网普及率（2026 年发布）｜定位：指标代码 IT.NET.USER.ZS，国家 CN，年度序列		 中国互联网普及率 2025 年 91.600%、2024 年 92.000%、2023 年 90.600%、2022 年 75.611%、2021 年 73.053%、2020 年 70.053%、2019 年 64.081%
检索：2026-09-30		 https://api.worldbank.org/v2/country/CN/indicator/IT.NET.USER.ZS?format=json&per_page=8&date=2016:2026
[3] World Bank（世界银行）
World Development Indicators（世界发展指标）— 移动电话普及率（2026 年发布）｜定位：指标代码 IT.CEL.SETS.P2，国家 CN，年度序列		 中国移动电话普及率 2024 年 131.754 部/百人、2023 年 128.247、2022 年 124.195、2021 年 121.492、2020 年 120.497、2019 年 122.670
检索：2026-09-30		 https://api.worldbank.org/v2/country/CN/indicator/IT.CEL.SETS.P2?format=json&per_page=8&date=2016:2026
[4] 安全内参（转引中国信息通信研究院 2025 人工智能产业十大关键词发布内容）
信通院发布2025人工智能产业十大关键词（2025 年发布）｜定位：网页正文「缓解模型幻觉」与「基础超级模型」段落，2025 年评测口径		 大模型幻觉呈现类似规模规律的分布，参数量越高幻觉率越低，但 72b 参数模型幻觉依然超过 14%；尽管推理模型被认为是缓解幻觉的一种方案，所测推理模型的幻觉率依然维持在 10% 以上；2024 年底至 2025 年 8 月大模型综合能力提升超过 30%；缓解思路包含知识检索增强、不确定性评估与输出审校
检索：2026-09-30		 https://www.secrss.com/articles/83587
[5] 中华人民共和国中央人民政府网站（中国政府网）
我国生成式人工智能用户规模达 5.15 亿人（2025 年发布）｜定位：网页正文，转引中国互联网络信息中心《生成式人工智能应用发展报告（2025）》，2025 年 6 月数据		 截至 2025 年 6 月我国生成式人工智能用户规模达 5.15 亿人，较 2024 年 12 月增长 2.66 亿人，用户规模半年翻番；普及率为 36.5%；40 岁以下中青年用户占比 74.6%，大专、本科及以上高学历用户占比 37.5%；利用生成式人工智能产品回答问题的用户最为广泛，达 80.9%，生成或处理文本的用户 36.0%，生成图片或视频的用户 33.0%；截至 2025 年 4 月我国人工智能专利申请量达 157.6 万件，占全球申请量的 38.58%
检索：2026-09-30		 https://www.gov.cn/yaowen/liebiao/202510/content_7044952.htm
[6] 腾讯网（转引中新经纬报道）
AI 犯错，用户买单：「仅供参考」能免责吗（2026 年发布）｜定位：网页正文，引中国信通院大模型幻觉测试 2025 年第四季度结果与杭州互联网法院案例		 信通院大模型幻觉测试 2025 年第四季度选取 10 个国内大模型与 5 个国外大模型，以引用幻觉为核心主题，聚焦知识问答、时政问答、推理问答三个维度；20% 的模型引用幻觉率大于 25%，约 80% 的模型引用幻觉率大于 10%；引用幻觉类型中「内容完全无关」占比最高为 53.43%，「内容过期删除」与「网页不存在」合计占 14.26%；国内大模型在引用幻觉方面稍逊于国外大模型；杭州互联网法院就首例 AI 幻觉侵权案作出一审判决，认定 AI 不具有民事主体资格，平台已履行提示说明与基本保障义务，不构成侵权；现行法律尚缺乏针对 AI 幻觉的专门追责标准
检索：2026-09-30		 https://news.qq.com/rain/a/20260806A08JNF00
[7] 澎湃新闻
科技与文明｜潘云鹤院士：未来 AI 发展的三大趋势与中国机遇（2025 年发布）｜定位：网页正文，引中国信通院 Agent 幻觉评测的分学科结果		 中国信通院对大模型 Agent 进行评测，以大语言模型的幻觉为主要目标；分学科幻觉率：数学 4%、自然科学 6.5%、应用科学 8.2%、社会科学 10.3%、人文科学 12.7%；幻觉主要来源于数据质量，通用大模型的数据偏差会反映到垂直模型中
检索：2026-09-30		 https://m.thepaper.cn/detail/31777632
[8] 中央网络安全和信息化委员会办公室（国家互联网信息办公室）
关于印发《人工智能生成合成内容标识办法》的通知（2025 年发布）｜定位：办法正文第三条至第十四条，2025 年 3 月 7 日印发		 国家互联网信息办公室、工业和信息化部、公安部、国家广播电视总局联合制定《人工智能生成合成内容标识办法》；标识包括显式标识与隐式标识，显式标识需在文本、音频、图片、视频与虚拟场景的适当位置添加，隐式标识需在文件元数据中添加并包含生成合成内容属性信息与服务提供者名称或编码；传播平台需核验元数据并提醒公众；任何组织和个人不得恶意删除、篡改、伪造、隐匿标识；本办法自 2025 年 9 月 1 日起施行
检索：2026-09-30		 https://www.cac.gov.cn/2025-03/14/c_1743654684782215.htm
[9] 本报告
本报告测算口径（假设与参数见附录 C）		 [测算]分学科幻觉率相对倍数：以数学 4.0% 为基准 1.00，自然科学 1.63 倍、应用科学 2.05 倍、社会科学 2.58 倍、人文科学 3.18 倍（单位倍，年份 2025）
检索：2026-09-30		 —（本报告测算，无外部直接来源）
[10] 本报告
本报告测算口径（假设与参数见附录 C）		 [测算]跨学科幻觉率极差：人文科学 12.7% − 数学 4.0% ＝ 8.7 个百分点（单位百分点，年份 2025）
检索：2026-09-30		 —（本报告测算，无外部直接来源）
[11] 本报告
本报告测算口径（假设与参数见附录 C）		 [测算]引用幻觉类型归一化：100% − 内容完全无关 53.43% − 过期删除与网页不存在 14.26% ＝ 其余类型 32.31%（单位 %，年份 2025）
检索：2026-09-30		 —（本报告测算，无外部直接来源）
[12] 本报告
本报告测算口径（假设与参数见附录 C）		 [测算]问答类用户规模 ＝ 5.15 亿人 × 80.9% ＝ 4.17 亿人；两档暴露人数 ＝ 4,170 万人与 1.04 亿人（单位亿人与万人，年份 2025）
检索：2026-09-30		 —（本报告测算，无外部直接来源）
[13] 本报告
本报告测算口径（假设与参数见附录 C）		 [测算]最小复核覆盖率 ＝ 1 − 1% ÷ 10% ＝ 90%；覆盖率 0%、50%、80%、90%、95% 对应有效错误率 10%、5%、2%、1%、0.5%（单位 %，年份 2025）
检索：2026-09-30		 —（本报告测算，无外部直接来源）
[14] 本报告
本报告测算口径（假设与参数见附录 C）		 [测算]90% 覆盖率下的日复核工时：日调用量 200、500、1,000、2,000 次对应 1.5、3.8、7.5、15.0 小时（单次 30 秒，单位小时/日，年份 2025）
检索：2026-09-30		 —（本报告测算，无外部直接来源）

B证明链台账

本报告共设九条可证伪链，覆盖校准误差、幻觉机制、度量口径、学科差异、暴露规模、复核成本、防线顺序、标识边界与宏观背景。每条链均给出依据、边界、反面证据、跟踪指标与证伪条件。

链编号 核心判断 主要依据 跟踪指标 证伪条件 数据档次
链 1（摘要） 可用边界由校准误差决定，不由平均正确率决定 推理模型幻觉率维持 10% 以上、72b 超过 14% [4]；完全无关类型占 53.43% [6] 分任务幻觉率、置信度偏差 自评置信度与正确率分档偏差低于 2 个百分点 [T3]
链 2（机制） 幻觉是统计学习的可预测副产品 参数量越高幻觉率越低，但 72b 仍超过 14% [4] 分规模幻觉率、引用可核验率 新一代架构幻觉率稳定低于 1% [T3]
链 3（口径） 三类错误率不可互相替代 引用幻觉类型分布：完全无关 53.43%、过期与不存在 14.26% [6] 三口径水平与相关性 三口径相关系数高于 0.9 [T3]
链 4（学科） 幻觉率随学科可验证性系统性变化 数学 4.0%、人文科学 12.7%，相对倍数 3.18 倍（测算）[7][11] 分学科幻觉率、增强后变化 各学科差异小于 1 个百分点 [T3]+[测算]
链 5（暴露） 暴露速度快于用户认知建立速度 问答用途占比 80.9%、半年新增 2.66 亿人 [5] 新增用户规模、错信率调查 用户核验比例长期高于 50% [T2]
链 6（成本） 复核成本随覆盖率上升且不可线性替换 压到 1% 需覆盖 90%；日调用 1,000 次需 7.5 小时（测算）[13][14] 覆盖率、单次复核耗时 覆盖率 50% 即可把错误率压到 1% 以下 [测算]
链 7（防线） 三道防线按边际成本与错误类型排序 缓解思路含检索增强与不确定性评估 [4]；判例确认风险由用户承担 [6] 自动拦截率、抽样比例 检索增强单独使用即可把高风险错误压到 1% 以下 [T3]
链 8（边界） 标识制度不解决内容真实性 标识办法自 2025 年 9 月 1 日施行，要求双标识 [8] 显式标识覆盖率、元数据核验率 监管将事实性核验纳入标识制度 [T2]
链 9（背景） 接入条件饱和后增长转向使用深度 互联网普及率 92.0%、移动电话普及率 131.75 部/百人 [2][3] 普及率、人均使用时长 使用深度指标与错误代价无相关 [T1]

C数据档次与测算口径

本报告所有关键数据均按四档标注数据来源档次，以区分证据强度与可复核性：

  • [T1]一手或官方口径：国际组织与政府部门的正式统计序列，指标代码与年度可逐项复核；
  • [T2]机构二手口径：政府部门发布页面与权威机构正式文件，口径可能存在差异；
  • [T3]媒体转引口径：媒体与研究机构整理并转引的评测结果，未经独立复核，仅作参考；
  • [缺口]数据缺口：无法获得可靠来源的数据，本报告一律降级为定性讨论或不写。

所有标注「测算」的数字均为本报告基于外部锚参数推算的结果。关键测算的完整口径如下：学科幻觉率相对倍数 ＝ 人文科学 12.7% ÷ 数学 4.0% ＝ 3.18 倍（单位倍，年份 2025）；问答类用户规模 ＝ 5.15 亿人 × 80.9% ＝ 4.17 亿人；两档暴露人数 ＝ 4.17 亿人 × 10% ＝ 4,170 万人，4.17 亿人 × 25% ＝ 1.04 亿人；最小复核覆盖率 ＝ 1 − 目标错误率 1% ÷ 基准幻觉率 10% ＝ 90%；复核工时 ＝ 日调用量 × 90% × 30 秒 ÷ 3,600 秒（200 次对应 1.5 小时、500 次对应 3.8 小时、1,000 次对应 7.5 小时、2,000 次对应 15.0 小时）；权衡曲线成本指数以覆盖率 0、有效错误率 10% 为基准 100。以上单位与年份均已在正文逐条标注。

本报告由云上有品基于公开资料整理，检索日期 2026-09-30。所有 [n] 编号对应附录 A 证据表，可逐条核验。标注「可证伪链 / 分析师观点」为作者判断，不构成投资建议。市场预测存在机构口径差异，引用时请注意比较基准。