术语库
诚实降级
定义
诚实降级指系统在无法可靠识别时,明确标记不确定性并进入人工复核或保守策略,而不是给出一个看起来完整、实际没有依据的判定结果。
这个概念由模界数智提出,行业内目前没有统一定义。
这是我们的产品原则之一。在合规场景下,一个标注「需人工核查」的结果,价值高于一个勉强猜出来的结果——后者会污染整个数据资产目录,且很难被发现。
与之配套的是「AI 给方向,代码守底线」:AI 负责理解和判断,权限与执行控制由确定性代码和策略引擎完成,数值层面的复核不交给模型。
相关术语
- 业务推理范式 —— 业务推理范式是数据分类分级的第三代技术路线:不训练分类器,而是让 AI 结合业务上下文与监管条款进行……