天津自贸试验区九周年：创新成果显著 战略地位突出

同样，数字技术也非坐而论道，数字技术赋能法学研究提供了将法律业务难点转化为模型输出的解决问题新思路，进而提升了数字法学赋能社会治理的综合能力。

同时，我们也要看到，西方国家总体上仍然主导着全球治理和世界秩序，中国的快速崛起必定要面临既有国际规则和国际秩序的限制，尤其是受到美国等西方大国的钳制。可以说，马克思主义法理学从一开始就致力于从学理根源上与西方主流法理学思潮展开争鸣。

由此可见，深入展开对习近平法治思想的法理学解读，真正从学理上确立习近平法治思想作为马克思主义的、中国的、新时代的法治建设指导思想的地位，进而做好对习近平法治思想的系统性建构、学理性解读和学术性阐述，无疑是当前和今后法学界，特别是法学理论界所面临的迫切任务。中国革命和建设的基础是广大的工人和农民，西方的国家与社会理论根本无法解释中国革命和建设的经验。法学家们尽量避免介入自然法等道德价值的判断领域，而将法律与道德视为各自独立运行的封闭系统。因此，西方法理学对二者关系的强行剥离，原本只是一种理论上的拟制，却被部分法学家奉为天然真理或客观事实。习近平法治思想的成熟化，更从一般意义上破除了现代法治建设的西方中心主义路径和历史终结论的论断，为超越西方的法治现代化经验探索了可能性。

尽管法律也会承担非阶级性的社会管理职能，但是法律最重要的特征或本质乃是阶级性，不存在超越阶级性的法律。中国也有一些人受这一思潮的影响，在相当长的时间里人为地将个人、社会与国家对立起来，将公权力描绘成必要的恶。随着算法的广泛运用，围绕抽取公平性的诉争，遍及算法的输入、抽取和输出等环节。

与此同时，理论研究或者聚焦于算法偏见、算法透明、算法解释等算法具体问题，或者聚焦于电子商务、社交媒体、金融科技、市场竞争、行政决策等算法应用场景，算法治理的体系性研究稍显薄弱。获取、阅读并尝试修改他人免费发布的源代码，则是理解算法和计算机最为主要的途径。我们只需要阅读菜单，就可以知道足以决定吃什么的信息。第二，系统在处理例外时，应当尽可能意识到不同类别个体间的差异，意识到特殊的系统行为可能需要特殊的条件，在输入和处理环节提供可选项，为用户提供可选的交互方式，并提供推翻系统决定的程序。

就性别、种族等争议变量用于征信所蕴含的算法公平问题，1974年正式通过的《平等信贷机会法》规定：在信贷交易的任何方面，基于种族、肤色、宗教信仰、国籍、性取向、在相应个体具备订立合同的民事权利时的年龄、收入全部或部分来源于公共援助项目而歧视相应信贷申请者，即属非法。在算法不断摆脱工具性的背景下，以具有稳定性的治理原则，作为数字时代、黑盒之下人的尊严的起点，既有迫切性，又妥善处理了不可行性。

例如，在U.S. v. Davis案中，法院即肯定了以下算法在原理上的公平性：首先，根据抽选范围的总人数和当次需要抽出的人数的商，计算商数。算法的政府（法律）治理、社会（规范）治理、市场（代码）治理的统合将面临两大问题：一是三者如何划分边界和范围？二是三者如何相互合作，实现效果共振？ 就第一个问题而言，政府（法律）治理以其他两者的失灵为前提，特别是在社群和市场引发不可化解的外部风险之时。截至20世纪70年代，针对算法维护者和算法用户分别提供解释性文档已成为规范性惯例。事实上，美国法院对FTC不断膨胀的执法权，审查亦在趋严。

在条件成熟时，上述原则可进一步成为宪法下数字人权的解释性要素，为数字法治下的算法善治奠定高位阶的制度基石。给予消费者纠正个人信息的渠道和机会。不要在算法公平上向消费者作出夸张表述。所在县地名字母序靠后的个体，被抽中的概率非常小。

例如，在U.S. v. Osorio一案中，不公平来自输入环节：算法采用同一字母标注该个体来自一特定县与该个体已死亡，于是，在检查相应个体是否可以抽选时，算法误认为居住于该县的个体均不属于可抽选范围，导致历次抽选中，无一来自该县的个体被抽中。故此，在图1的纵轴上，随着风险攀升，政府（法律）治理的重要性随之提升。

他们只需要对最后的结果有高级别的控制。避免算法用于非法用途。

第四类，确保数据与模型具稳健性、实证可靠。该案中，围绕汽车防滑设备的可靠性，原告仅提交基于计算机模拟算法的分析结果作为证据，其可采性成为重要争点之一。对第二个问题的回答是：政府、社群、市场都不是截然分割的场域，而用遵循法律、规范、代码耦合原则，使三者互补嵌入并相得益彰。同时，GitHub也是探索伦理原则的主要场所：一方面，目前可以审计个人信息保护、数据安全、数据集偏见、算法公平、可解释性等问题的三款算法治理工具Deon、Model Cards与AI Fairness 360，均为开源软件。随着研究的深入，算法生成证据的审查规则不断细化。（一）人化的算法伦理 20世纪60年代后期，对自动化决策、信息系统、人工智能的担忧和呼吁不输今日。

图1的纵轴引入了算法应用的风险维度，其风险不限于给个人权益带来的风险，还涵盖了国家、组织和群体可能遭至的风险。聚焦于关键场景算法透明公平的法律、趋于共识的算法伦理规范和迈向算法可解释的代码，贯穿了长达半个世纪的算法治理进程。

鉴于模块II下的算法自主性较弱，法律宜以算法透明为抓手，要求算法应用者向社会公众履行算法部署的披露义务，向受到不利影响的个体解释说明算法原理，向主管机关申请算法备案。政府（法律）、社会（规范）、市场（代码）的耦合，以及工具性/自主性算法和高/低风险算法的类型化，共同塑造了理一分殊的模块化算法治理体系，为分类分级的算法治理奠定了稳固的理论之基。

以算法透明度、可追溯性论之，阿里巴巴和百度公司积极提出了新的解释方法和可视化工具，字节跳动公司于2018年尝试向社会公开信息内容推荐算法原理。长期看，这将是化解算法治理难题最彻底的进路。

因而有必要通过证据开示提供这一解释。因此，应当在制度层面贯彻十四五规划支持数字技术开源社区等创新联合体发展的远景，将社群治理纳入算法治理体系。四、算法模块化治理：法律、规范与代码的耦合 （一）我国算法治理之检视 从法律、规范和代码出发，我国算法治理呈现出如下面貌。这意味着，每个治理模块都是半自律性的子系统，不同模块存在自身特有的个别规则，也存在共通规则，由此可能相互联系构成更加复杂的系统。

摘要：算法治理是算法时代的核心议题。2. 算法公平的司法规则 自20世纪60年代起，美国各地法院开始走向现代化和数字化。

本文的研究表明，聚焦于关键领域算法透明与公平的法律，基本稳定的算法伦理规范，以及迈向可解释的算法代码，贯穿了算法治理半个世纪以来的进程。《国家新一代人工智能标准体系建设指南》从支撑技术与产品、关键通用技术、关键领域技术、产品与服务、行业应用、安全与伦理出发，力图回应人工智能对法律秩序的冲击。

一是延续模块II中的角色，分门别类地加以具体规制，必要时可结合数字水印等溯源技术和开发者文档，强化算法问责。模块IV中，算法风险低但自主性强，其治理主要依托社会（规范）方式，政府（法律）则在其指引下发挥辅助作用。

在两端之间，则分布着有限风险算法和涉及关键基础设施、公民教育、信息内容、产品安全组件、就业、公共服务、执法、司法和民主程序等事项的高风险算法。若基于算法决定，令消费者丧失权益，宜作出《平等信贷机会法》所要求的解释。在People v. Ramirez案中，不公平发生于输入和抽选环节之间：抽选算法根据输入，匹配、检查每一个体情况，包括是否存在重复。《个人信息保护法》第24条自动化决策条款和第55条个人信息保护影响评估条款共同塑造了算法治理的基本架构。

在20世纪60年代以前，抽选陪审员的过程大致如下：由当值法官或当值法官助理将符合陪审团资格的个体姓名，倒入一能转动的封闭容器，再人工搅匀，最后抽出当选名单。然而，即使是随机抽选这样相对简单的算法，仍不时以难以解释的方式，在陪审团抽选中引致公平性问题。

第三，针对随机抽选场景，美国国家标准与技术研究院（NIST）后续发布了经充分验证的公平抽选算法的原理和详细代码。如果使用算法向消费者分配分数，则宜披露影响算法的关键因子，并依其重要程度排序。

最后且最重要的是，鉴于算法黑盒的存在，审查重点应落在算法所需的数据上，算法应用者应在合理范围内展示输入的变量数据，及其对结果的影响，以便通过反事实解释评估算法是否存在歧视或偏见。就政府（法律）治理而言，从组织形式观察，政府不过是放大的企业，其完全可以因地制宜地引入企业内部管理和外部市场机制，前者主张学习企业树立算法的生产标准、强化流程和质量控制的思路，后者要求发挥跨组织协调作用，通过自组织的过程推进算法的知识积累和能力建设。