AI价值治理检查清单——六把尺子版

v1.0

——基于“六把尺子 + 价值流动 + 认知纠错”的 AI 价值治理框架

摘要

人工智能正在进入招聘、金融、医疗、教育、制造、内容分发、公共治理以及日常生活。

传统的 AI 合规主要关注几个问题：

• AI 是否违法？
• 是否存在歧视？
• 是否保护隐私？
• 是否安全？
• 是否透明？
• 是否可解释？

这些问题都重要，但仍然存在一个更底层的问题：

一个 AI 系统究竟按照什么尺度判断“什么是好的结果”？

一个系统可以非常安全，却让大量人失去选择权。

可以非常高效，却把大量劳动成本转嫁给普通人。

可以极其赚钱，却把收益集中在少数控制者手中。

可以准确预测，却把“预测结果”变成对人的最终定义。

因此，AI 治理不能只有一把尺子。

本检查清单采用“六把尺子”分别检查：

保障、选择、劳动、贡献、激励、意义。

同时增加两个贯穿层：

价值流动：检查价值、成本、风险、权力最终流向哪里。

认知纠错：检查谁在定义规则，以及这种定义权是否可以被纠正、挑战和重新分配。

本清单不是给 AI 打一个总分。

六把尺子不能简单加权。

因为：

安全不能代替自由，效率不能代替公平，利润不能代替贡献，价格不能代替意义。

一、基本原则：AI首先必须回答“用什么尺子衡量”

AI 最容易产生的错误，并不一定是计算错误。

更危险的错误是：

计算得非常准确，却计算错了问题。

例如：

一个招聘 AI 非常准确地预测“谁最可能在三年后留在公司”。

但如果它因此大量排除年轻人、转行者或者职业中断者，那么：

预测准确，不等于制度合理。

一个平台 AI 非常准确地提高了用户停留时间。

但如果它通过不断刺激焦虑、愤怒和沉迷来提高停留时间，那么：

用户时长增加，不等于用户获得了更多价值。

一个企业 AI 将单位产品劳动时间降低了 50%。

如果节省的时间全部变成企业利润，而劳动者收入没有提高、工作时间没有减少、失业者也没有获得新的机会，那么：

效率提高，不等于价值公平流动。

因此，本框架首先确立三个元原则。

因果不可截断

AI 系统的最终结果，不能被简单归因于“算法”。

一个完整的因果链可能包括：

数据 → 数据选择 → 模型 → 训练 → 参数 → 产品设计 → 指标 → 部署 → 人的使用 → 管理制度 → 最终结果

因此：

“算法决定的”不是责任终点。

必须继续追问：

谁选择了算法？

谁设置了目标？

谁设置了阈值？

谁决定哪些数据可以进入？

谁决定哪些结果算成功？

谁从结果中获得收益？

谁承担错误成本？

尺度不能垄断

任何一个指标都不能自动成为全部价值的代理。

例如：

点击率 ≠ 用户利益

利润 ≠ 社会贡献

工作时间 ≠ 劳动价值

职位 ≠ 贡献大小

市场价格 ≠ 人的价值

模型准确率 ≠ 决策正确性

用户数量 ≠ 意义

AI 可以使用指标。

但不能让一个指标偷偷变成：

唯一的价值裁判。

成本不能隐身

AI 带来的收益必须和它产生的成本一起观察。

不能只记录：

收入增加多少？

还必须记录：

谁节省了时间？

谁失去了工作？

谁承担了学习成本？

谁承担了错误风险？

谁承担了心理成本？

谁承担了隐私成本？

谁承担了社会成本？

因此：

AI 价值治理不仅要看“创造了什么”，还要看“成本去了哪里”。

二、六把尺子

六把尺子不是六个分数。

它们分别回答六个不同的问题。

保障尺：谁不会因为 AI 掉下去？

保障尺关注的是人的最低生存与基本参与资格。

核心问题：

如果一个人失去市场交换能力，他是否仍然能够维持基本生活，并重新进入社会交换？

AI 系统不得通过算法把人的基本生存资格完全绑定在一次市场交换结果上。

检查项

□ AI 是否可能导致某些人失去基本收入来源？

□ 是否存在因为一次算法判断而永久失去机会的情况？

□ 是否存在“算法黑名单”长期锁死个人的情况？

□ 是否存在因为历史失败而无法重新开始的情况？

□ 是否存在福利、就业、信贷、教育等方面的“算法悬崖”？

□ 被 AI 淘汰的劳动者是否拥有转型路径？

□ 系统是否提供申诉和人工复核？

□ 是否存在最低保障机制？

□ AI 是否把原本由企业承担的成本转移给个人？

□ 是否把技术升级的风险全部转移给劳动者？

红线

以下情况应视为严重风险：

一次算法错误永久剥夺人的基本机会。

人无法知道自己为什么被排除。

人无法申诉。

人无法重新获得资格。

企业获得效率收益，而被替代者承担全部转型成本。

保障尺不是要求：

“所有人永远不被淘汰。”

而是要求：

人可以被淘汰出一个岗位，但不能因此被淘汰出重新开始的资格。

选择尺：谁真正拥有选择？

选择尺解决的是：

一个人到底有没有真实选择权？

“页面上有三个按钮”不等于有三个选择。

如果：

• 一个选项默认勾选；
• 一个选项被隐藏；
• 一个选项需要付出巨大成本；
• 一个选项会受到惩罚；
• AI 根据用户行为不断诱导其选择某个结果；

那么表面上的自由选择可能只是：

被设计出来的选择。

检查项

□ 用户是否可以拒绝 AI 决策？

□ 是否存在真实退出权？

□ 是否可以关闭推荐？

□ 是否可以选择人工服务？

□ 是否可以更换平台？

□ 数据是否可以迁移？

□ 是否可以修改 AI 对自己的错误判断？

□ 是否存在默认选项诱导？

□ 是否存在暗黑模式？

□ AI 是否利用人的认知弱点诱导决定？

□ 用户是否知道自己正在接受算法影响？

□ 是否存在“不同意就无法使用全部服务”的过度绑定？

□ 劳动者是否可以拒绝不合理的算法任务？

□ 员工是否可以对算法管理提出异议？

特别检查：退出权

任何重要 AI 系统都应该回答：

如果我不同意 AI 的判断，我能不能离开？

如果不能离开，那么必须进一步检查：

为什么不能离开？

谁拥有这种锁定权？

锁定带来的收益和成本分别流向谁？

选择尺最终保护的不是：

“我想选什么就选什么。”

而是：

我不应该在没有真实替代方案的情况下，被迫接受别人定义好的选择。

劳动尺：谁付出了人的不可逆成本？

劳动不能简单等于：

工作时间。

也不能简单等于：

最终产量。

劳动尺关注的是：

人为了生产目标实际付出了多少不可逆的人类成本。

这种成本可以包括：

• 时间
• 体力
• 注意力
• 学习
• 技能训练
• 创作
• 情绪劳动
• 风险承担
• 长期职业机会成本

AI 系统检查项

□ 谁训练了 AI？

□ 谁进行了数据标注？

□ 谁审核了错误结果？

□ 谁不断给 AI 提供反馈？

□ 谁承担了测试成本？

□ 谁负责清理数据？

□ 谁负责纠错？

□ 谁在 AI 出错之后收拾残局？

□ AI 是否把原来的人工劳动隐藏成“免费用户行为”？

□ 用户贡献的数据是否被长期商业化？

□ 劳动者是否因为 AI 而承担额外监控？

□ 是否出现“机器提高效率，人反而必须更快工作”的情况？

□ AI 节省的时间最终归谁所有？

一个重要判断

如果 AI 让：

原来 8 小时完成的工作变成 4 小时，

那么不能只问：

“生产率提高了多少？”

还应该问：

剩下的 4 小时去了哪里？

可能有四种完全不同的结果：

劳动者少工作 4 小时。

劳动者做更多工作。

企业减少人员。

企业增加利润。

它们都是“效率提高”，但价值流动完全不同。

因此：

AI 提高生产率以后，谁获得新增的自由时间，是劳动尺必须检查的问题。

贡献尺：谁真正造成了结果？

贡献尺与劳动尺不同。

劳动 ≠ 贡献。

一个人可能劳动很多，却没有产生目标结果。

另一个人可能只做了一个关键动作，却产生巨大因果变化。

因此贡献尺关注：

如果没有这个主体，目标结果会发生多大的可归因变化？

这是一种因果问题。

AI 系统检查项

□ 是否识别不同主体的实际贡献？

□ 是否把职位直接当成贡献？

□ 是否把所有贡献都归给最终控制者？

□ 是否忽略数据贡献？

□ 是否忽略用户反馈贡献？

□ 是否忽略开源贡献？

□ 是否忽略基础研究？

□ 是否忽略基础设施？

□ 是否忽略长期维护？

□ 是否把“拥有资产”直接等同于“创造全部价值”？

□ 是否存在平台截取大量贡献，而贡献者无法获得相应回流？

关键原则

不能因为一个主体拥有：

模型、服务器、平台、品牌、专利、资本

就直接推出：

“因此所有价值都是它创造的。”

所有权可以解释：

谁拥有分配权。

但不能自动证明：

谁创造了贡献。

因此必须把：

所有权、劳动、贡献、控制权、收益权

区分开来。

激励尺：我们究竟在奖励什么？

激励尺关注未来。

它问的不是：

“过去谁贡献最多？”

而是：

今天的分配规则，会让明天的人更愿意做什么？

一个制度即使今天看起来公平，如果它长期奖励错误行为，也会逐渐失效。

AI 系统检查项

□ AI 是否奖励真正的增量？

□ 是否奖励创新？

□ 是否奖励质量？

□ 是否奖励长期维护？

□ 是否奖励风险承担？

□ 是否奖励解决问题？

□ 是否奖励合作？

□ 是否奖励知识共享？

□ 是否奖励对系统整体有益的行为？

同时检查：

□ 是否奖励垄断？

□ 是否奖励信息不透明？

□ 是否奖励操纵指标？

□ 是否奖励刷数据？

□ 是否奖励制造依赖？

□ 是否奖励转嫁成本？

□ 是否奖励占有稀缺入口？

增量检查

尤其要区分：

创造增量

和：

重新分配存量。

例如：

AI 平台通过提高抽成增加 20% 收入。

这并不一定意味着创造了 20% 的社会新增价值。

可能只是：

从劳动者 → 平台

发生了一次价值转移。

因此激励尺要问：

这个收益到底来自生产能力增加，还是来自控制权增强？

意义尺：谁有权定义“什么值得”？

意义尺是六把尺子中最容易被 AI 越权的一把。

因为 AI 特别擅长：

排名、预测、优化、推荐。

于是非常容易出现一种危险：

“AI 认为重要。”

逐渐变成：

“社会认为重要。”

最终变成：

“这就是重要本身。”

这是一个严重的尺度越权。

AI 系统检查项

□ AI 是否把点击量当成意义？

□ 是否把收入当成人生价值？

□ 是否把效率当成唯一目标？

□ 是否把社会评价指数当成人的价值？

□ 是否把预测成功率当成最终正确？

□ 是否把多数人的偏好当成唯一正确？

□ 是否给人的人生、职业、教育、婚姻等进行永久排序？

□ 是否允许用户挑战 AI 对“重要”的定义？

□ 是否保留少数人的表达空间？

□ 是否允许非主流价值存在？

核心原则

AI 可以告诉我们：

“什么更容易发生。”

可以告诉我们：

“什么更有效率。”

可以告诉我们：

“什么更受欢迎。”

但不能自动推出：

“什么更值得。”

因为：

事实判断、效率判断、价值判断不是同一件事情。

意义尺最终守住的是：

AI 可以帮助人选择目标，但不能永久垄断目标本身。

三、价值流动检查

六把尺子回答：

应该怎么看。

价值流动回答：

看完之后发生了什么。

一个 AI 系统不能只看输入和输出。

必须画出价值流动。

AI 价值流动链

建议至少追踪：

创造 → 转化 → 流动 → 实现 → 回流 → 再生产

例如一个 AI 平台：

用户提供数据
↓
数据训练模型
↓
模型形成产品
↓
产品产生收入
↓
收入流向企业、投资人、员工、平台、用户
↓
收益再次投入研发

这才是一条完整的价值循环。

检查七类流动

时间流

谁节省时间？

谁增加工作时间？

谁获得自由时间？

金钱流

谁获得收入？

谁承担成本？

谁获得超额收益？

风险流

谁承担 AI 出错风险？

企业？

员工？

消费者？

社会？

信息流

谁产生数据？

谁获得数据？

谁拥有数据？

谁能够使用数据？

权力流

谁可以：

定义规则？

修改规则？

设置阈值？

关闭系统？

解释结果？

机会流

谁因为 AI 获得新机会？

谁失去机会？

机会是否可以重新获得？

时间与生命成本流

尤其检查：

AI 节省的时间最终归谁？

如果 AI 让社会生产率提高，却让普通人的工作时间越来越长，那么系统可能存在：

生产率增长与人的自由时间增长脱钩。

这应该成为 AI 价值治理的重要指标。

四、AI权力检查

AI 不只是一个工具。

当 AI 开始：

排名、筛选、推荐、定价、招聘、授信、分配任务

它实际上开始参与：

定义社会中的机会。

因此必须增加“定义权检查”。

谁定义？

□ 谁定义目标？

□ 谁定义指标？

□ 谁定义阈值？

□ 谁选择训练数据？

□ 谁选择成功标准？

□ 谁可以修改规则？

□ 谁解释模型？

□ 谁拥有最终决定权？

□ 谁可以关闭系统？

□ 谁承担最终责任？

定义权三问

任何重要 AI 系统都必须回答：

谁来算？

怎么算？

谁有权修改“怎么算”？

如果答案永远是同一个主体：

“由我们算，而且永远由我们算。”

那么问题就已经从 AI 技术问题进入：

权力问题。

五、认知纠错：AI必须允许自己被纠正

认知纠错不是第七把尺子。

它是整个系统的：

免疫系统。

因为任何一把尺子都可能被滥用。

任何一个指标都可能失真。

任何一个模型都可能过拟合。

任何一个决策者都可能犯错。

因此必须建立：

发现错误 → 提出异议 → 重新验证 → 修改规则 → 追踪后果

的闭环。

AI认知纠错检查

□ 用户可以指出 AI 错误吗？

□ 用户可以提交证据吗？

□ 系统会重新计算吗？

□ 是否保留历史判断？

□ 是否记录规则修改？

□ 是否允许第三方审查？

□ 是否进行反事实测试？

□ 是否检查模型漂移？

□ 是否检查数据变化？

□ 是否检查现实结果？

□ 是否存在独立复核？

六、反事实检查

AI 价值治理尤其需要一个问题：

如果没有这个人、这个规则、这个模型，会发生什么？

这可以用于检查贡献、劳动、激励和价值流动。

例如：

一个平台说：

“没有我们的算法，这些订单就不会产生。”

那么应该问：

如果没有算法，订单真的会消失？

还是：

订单依然存在，只是由其他方式完成？

一个企业说：

“AI 创造了这些利润。”

那么应该问：

如果没有 AI，利润会是多少？

一个管理者说：

“这个员工没有贡献。”

那么应该问：

如果没有这个员工，目标结果会发生什么变化？

反事实不是万能答案。

但它可以防止：

把相关性直接当成因果性。

七、典型伪合规

真正危险的 AI 系统，往往不是完全没有规则。

而是：

规则很多，但都绕开了真正的问题。

“用户已经同意了”

问题：

用户是否真的拥有选择？

如果不同意就无法生活、工作、使用基本服务，那么：

同意的自由度是多少？

“算法自动决定”

问题：

谁设计了算法？

谁选择了目标？

谁设置了阈值？

谁获得了收益？

谁承担了后果？

“自动”不能成为责任消失的理由。

“这是行业标准”

问题：

行业标准用的是哪一把尺子？

标准解决的是：

“大家怎么做。”

并不能自动解决：

“大家这样做是否合理。”

“效率提高了”

问题：

效率提高带来的增量去了哪里？

如果：

企业收入增加

而：

劳动者工作时间增加

失业增加

用户成本增加

那么“效率提高”并不能结束讨论。

“大家都喜欢”

问题：

喜欢人数多，是否等于意义更高？

多数人的偏好可以作为一种信息。

但不能自动成为：

对少数人的否定权。

“模型准确率很高”

问题：

预测什么？

为什么预测？

预测结果由谁使用？

预测错误由谁承担？

准确率解决的是：

模型有没有更准确地完成指定任务。

它没有解决：

这个任务本身是不是值得完成。

八、AI生命周期检查

六把尺子应该贯穿整个 AI 生命周期。

数据阶段

保障：

谁可能因为数据被排除？

选择：

数据主体是否真正同意？

劳动：

谁采集、清洗、标注数据？

贡献：

谁的数据提高了模型能力？

激励：

数据共享是否鼓励长期创新？

意义：

谁决定什么数据值得保留？

训练阶段

检查：

谁承担训练成本？

谁提供反馈？

哪些人的知识进入模型？

哪些人的知识被忽略？

是否存在隐性劳动？

是否存在贡献被平台永久占有？

部署阶段

检查：

谁使用 AI？

谁被 AI 影响？

谁可以拒绝？

谁承担错误？

谁获得效率收益？

运行阶段

检查：

模型是否漂移？

社会环境是否变化？

是否持续产生新的不公平？

是否存在新的价值堵塞？

是否存在新的权力集中？

退出阶段

必须检查：

□ 能否停止 AI？

□ 能否转人工？

□ 数据能否迁移？

□ 历史判断能否修正？

□ 用户能否重新开始？

□ 企业能否更换系统？

□ 劳动者能否重新进入市场？

九、六把尺子一页检查表

一个 AI 系统至少需要回答以下六个问题：

然后再问：

价值最后流向了谁？

以及：

如果这个判断错了，谁可以纠正它？

十、最终判定

本框架不建议采用：

87分合规、92分合规

这样的单一总分。

因为六把尺子不是六个可以简单相加的数字。

建议采用分层判定。

一级：存在严重红线

出现以下情况之一：

基本保障被破坏。

真实选择权被剥夺。

人的劳动成本被系统性隐藏。

关键贡献被系统性截取。

激励机制系统性奖励掠夺或垄断。

AI 垄断对人的最终价值定义。

价值流动完全不透明。

决策者完全不承担后果。

没有有效纠错机制。

判定：

不建议部署。

二级：技术合规，但价值风险较高

系统满足基本法律、安全和技术要求，但：

某些尺子存在明显缺口。

例如：

模型准确，但选择权不足。

企业效率提高，但劳动者没有分享效率收益。

平台贡献巨大，但数据贡献者没有回流。

判定：

可以有限部署，但必须进行制度修正。

三级：六尺完整

系统能够分别回答：

保障如何维护？

选择如何保护？

劳动如何识别？

贡献如何归因？

激励如何设计？

意义如何保持开放？

同时：

价值流动透明。

权力来源清晰。

决策者承担后果。

纠错机制有效。

判定：

六尺治理通过。

四级：价值循环完整

最高等级不仅满足六把尺子，而且形成：

创造 → 转化 → 流动 → 实现 → 回流 → 再生产

的正向循环。

AI 带来的效率增量能够进一步转化为：

更高生产能力

更好的产品

更合理的收入

更多自由时间

更多学习机会

更多创新

更多社会参与

最终形成：

技术进步 → 价值增量 → 合理回流 → 再创新 → 更大增量

判定：

价值循环健康。

十一、一个完整案例：AI替代客服

假设一家企业部署 AI 客服。

原来：

100名客服，每人每天工作8小时。

AI 上线后：

只需要30名客服。

企业效率大幅提高。

传统评价可能是：

成本下降，效率提高，项目成功。

六把尺子会继续问。

保障尺

70名被替代者怎么办？

是否有：

转岗？

培训？

重新就业？

过渡收入？

选择尺

消费者是否可以：

转人工？

如果 AI 永远不允许用户找到真人，那么：

企业效率提高，用户选择权却下降。

劳动尺

原来客服承担的：

沟通、纠错、投诉、情绪劳动

是否被 AI 消除？

还是只是：

转移给消费者？

如果消费者现在需要自己与 AI 反复沟通20分钟才能解决问题，那么：

企业节省的劳动可能只是变成了消费者的劳动。

贡献尺

AI 并不是凭空产生的。

它依赖：

历史客服记录

客服经验

用户反馈

工程师

数据标注

基础模型

算力

因此不能简单说：

“AI 创造了全部效率。”

激励尺

企业应该获得 AI 带来的部分收益。

但制度还需要考虑：

被替代劳动者是否分享部分生产率增量？

例如：

培训资金

转型基金

缩短工作时间

更高工资

新岗位

这就是：

效率增量如何进入社会循环。

意义尺

不能因为：

客服岗位减少

就推出：

“客服没有意义。”

岗位可以消失。

人的价值不能因此消失。

AI 替代的是：

一种生产方式。

不是：

一个人存在的意义。

十二、真正的AI价值治理是什么？

AI治理最容易陷入两个极端。

一个极端是：

技术决定论。

认为：

AI 更准确，所以应该让 AI 决定。

另一个极端是：

纯粹禁止。

认为：

AI 有风险，所以不要使用。

六把尺子提供的是第三条路：

允许技术进步，但不允许任何单一尺度垄断全部价值。

因此我们不是反对：

AI提高效率。

而是继续追问：

效率提高以后，谁获得了自由时间？

不是反对：

AI替代劳动。

而是追问：

被替代的人是否获得重新进入社会交换的机会？

不是反对：

AI赚钱。

而是追问：

收益来自创造了新增价值，还是来自控制了稀缺入口？

不是反对：

AI进行预测。

而是追问：

预测是否被越权变成了对人的最终定义？

十三、最终原则

一个成熟的 AI 系统，不应该只追求：

更快、更准、更便宜。

还应该能够回答：

谁因此得到保障？

谁因此拥有更多选择？

谁付出了劳动？

谁真正产生了贡献？

制度正在奖励什么？

谁定义什么值得？

以及：

价值最终流向哪里？

最后再问：

如果我们判断错了，谁能够纠正我们？

这就是 AI 价值治理真正需要解决的问题。

十四、六把尺子不是AI的“价值观”，而是一套防止价值观被垄断的工具

六把尺子并不是告诉 AI：

“什么永远是正确的。”

它真正做的是：

防止任何一把尺子冒充全部真理。

保障不能代替选择。

选择不能代替贡献。

劳动不能代替贡献。

贡献不能代替激励。

激励不能代替意义。

意义也不能否定基本保障。

因此，六把尺子之间不是：

1 + 2 + 3 + 4 + 5 + 6 = 一个总分。

而是：

六个不同方向的约束。

而价值流动负责回答：

这些判断最终让什么东西流向了哪里。

认知纠错负责回答：

如果判断错了，系统能不能改变。

于是形成完整结构：

                 AI价值治理
                     │
        ┌────────────┼────────────┐
        │            │            │
     六把尺子       价值流动      认知纠错
     评价层         动态层        免疫层
        │            │            │
  ┌─────┼─────┐      │       谁定义？
  │     │     │      │       谁来算？
保障  选择  劳动      │       怎么算？
  │     │     │      │       谁能改？
贡献  激励  意义      │
  │     │     │      │
  └─────┼─────┘      │
        │            │
        └──────┬─────┘
               ↓
      创造→转化→流动→实现
               ↓
            回流→再生产

最终目标不是建立一个：

“AI应该听谁的话”的系统。

而是建立一个：

“任何人都不能永久垄断价值定义权”的系统。

这才是 AI 进入社会之后，比单纯的“算法公平”更加底层的治理问题。

v1.0 最终检查口诀

保障看底线。

选择看退出。

劳动看成本。

贡献看因果。

激励看增量。

意义看定义权。

价值流动看收益与成本去了哪里。

认知纠错看谁能把错误改回来。

不能用一把尺子裁判所有价值。

不能让算法自动继承人的定义权。

不能让收益显性、成本隐性。

不能让今天的效率建立在明天的人失去选择之上。

不能垄断“怎么算、谁来算、永远由我来算”。