模 模界数智
术语库

诚实降级

定义

诚实降级指系统在无法可靠识别时,明确标记不确定性并进入人工复核或保守策略,而不是给出一个看起来完整、实际没有依据的判定结果。

这个概念由模界数智提出,行业内目前没有统一定义。

这是我们的产品原则之一。在合规场景下,一个标注「需人工核查」的结果,价值高于一个勉强猜出来的结果——后者会污染整个数据资产目录,且很难被发现。

与之配套的是「AI 给方向,代码守底线」:AI 负责理解和判断,权限与执行控制由确定性代码和策略引擎完成,数值层面的复核不交给模型。

相关术语

  • 业务推理范式 —— 业务推理范式是数据分类分级的第三代技术路线:不训练分类器,而是让 AI 结合业务上下文与监管条款进行……