第十二部分:元规则的延伸——立法者与算法部署者承担剩余风险
来源:`../main.md` 第 220-229 行
所属分编:第五编:权力、资本与制度边界
建议阅读顺序:第 15 节
第十二部分:元规则的延伸——立法者与算法部署者承担剩余风险
元规则“规则定义者承担风险”,不仅适用于劳动积分和货币核算,也应当延伸到立法领域与算法治理领域。
一、立法领域的渐进式落地
当前立法的根本问题:立法者制定了一条法律后,如果实践证明它是错的、有害的,几乎不承担任何个人后果。规则定义者享受了定义世界的权力和声望,却把错误成本全部转嫁给了社会。
分步实验的推进路径:第一步,在低风险领域建立可信记录。选取后果可逆、影响面小的领域作为试点,提案者附带可验证的效果预估,三年后回溯评估。成功者留下信用标记,失败者留存可解释的偏差分析。第二步,拆解到可问责单元。一条大法拆成若干条款,每项条款设定独立的、可观测的微指标,每项条款有对应的预估责任人。第三步,设立立法沙盒。仿金融监管沙盒思路,允许特定城市或自贸区对特定法案进行有期限、有边界的试验。沙盒内立法者按元规则承担预估责任,沙盒外现行规则不变。成熟阶段:法案发起人附带效果预估,实际效果远低于预估的,在公开记录中留下“立法失败”永久标记,影响未来提案权和职业资格。设立独立回溯评估委员会,用多因素归因模型评估每条法案的净影响。
二、算法治理领域的元规则移植
算法是数字时代的“隐形立法”。推荐算法定义了你能看到什么信息,派单算法定义了你每小时能赚多少钱,风控算法定义了你能否获得贷款。这些算法本质上都是规则,而编写算法的工程师和部署算法的企业,就是数字时代的规则定义者。
按照元规则,他们必须为自己的算法后果承担风险:算法部署前审计——任何面向公众的算法模型,上线前须提交公平性影响评估报告;部署者承担剩余风险——算法上线后,若实际效果与评估报告严重偏离,部署者承担“算法失败”的信用标记,影响其数据使用权、算力基础设施使用权的续期竞标;公开存证与交叉验证——所有算法审计报告和实际效果在公共登记簿永久公开,接受学术界和社会主体的交叉验证;延时追责——算法的社会后果可能需要多年才能充分显现,设立延时通道,在算法部署后第3年、第5年进行回溯评估,即使原开发团队已解散,部署企业仍承担追责后果;审计委员会构成——技术专家、受影响群体代表、随机公民三方各占三分之一,受影响群体代表从劳动积分系统中信用良好的劳动者中随机抽签产生,防止“把关人捕获”。
立法者承担剩余风险,不是让他们不敢立法,而是让他们不敢随便立法。算法部署者承担剩余风险,不是让他们不敢创新,而是让他们不敢在“黑箱”里制造系统性不公。把元规则焊进立法程序和算法治理,规则才不再是精英的橡皮图章或代码的黑箱,而成为人民可以检验、可以追责的公共契约。
【v16 新增】跨境算法输出的元规则约束。 任何在中国境内收集数据、训练的算法模型,如果被授权给境外实体使用,自动触发双重审计——算法的训练数据来源是否合规?算法的最终受益结构是否透明?如果无法通过审计,算法模型禁止出境,已出境的限期召回。算法的规则定义者,对算法在境外产生的社会后果,承担同等的终身追溯责任。