行政场景下算法歧视的法律规制

刘心影，中国海洋大学法学院，宪法学与行政法学

联系电话 ：15166016192

摘要：随着人工智能技术在公共行政领域的深度嵌入，算法决策在显著提升治理效率的同时，也引发了系统性、隐蔽性的算法歧视风险。本文聚焦于“行政场景下的算法歧视”，旨在区别于私法领域的研究，系统探讨公权力与算法技术结合后所产生的歧视性问题的法律规制路径。通过对现行规范的分析，本文梳理出当前规制面临算法公平标准缺失、行政程序规范供给不足、问责机制空心化以及相对人权利救济存在制度性障碍等核心困境。针对上述困境，本文提出构建行政场景下算法歧视的系统性法律规制完善路径：确立算法公平标准，强化程序控制，明确行政主体的首要责任，完善权利救济体系。

关键词： 算法歧视；算法行政；法律规制；数字政府；正当程序

一、引言

人工智能技术正在全球范围内快速渗透人类社会的各个领域，深刻重塑生产与生活方式，已然成为驱动新一轮科技革命和产业变革的核心力量。在我国，尽管人工智能在推动政府履职数字化、促进决策科学化、提升社会治理精准度以及优化公共服务效率等方面展现出巨大潜力，但其应用过程中也面临着算法歧视的严峻挑战。2020年，荷兰税务部门在利用算法筛查福利欺诈时，因算法对“非西方外貌”及具有移民背景的群体区别对待，导致数千家庭背负返还福利补贴的沉重负担，事件经数据保护机构调查确认存在歧视，最终引发内阁集体辞职，严重冲击了政府公信力。在我国私法领域，算法歧视已引发平台价格差异、算法合谋干预劳动权益等多起纠纷，而在公共行政领域，其危害更为深远，不仅可能侵蚀数字法治政府的根基、削弱政府公信力，还会加剧数字鸿沟与社会不平等，进而损害行政相对人的基本权益。针对这一现实问题，国务院于2022年发布《关于加强数字政府建设的指导意见》，明确将“消除技术歧视”列为迫切任务，标志着规制算法歧视已上升为国家治理现代化的重要议题。

二、行政场景下算法歧视法律规制中存在的问题

（一）算法公平标准的系统性缺失

事前规制是防范算法歧视风险的第一道防线。然而，当前我国在这一关键环节面临的根本性困境，在于具有法律约束力与操作指导性的算法公平标准的严重缺失。

在行政算法开发周期中，算法公平标准缺失的负面影响尤为突出。在软件计划阶段，研发主体往往将问题定义局限于解决特定的行政效率或管理技术问题，而公平性很少被作为一项独立的、必需的系统目标明确提出。在软件开发阶段，即便行政机关尝试提出公平性要求，也往往因缺乏具体、可验证的标准而表述模糊，研发企业可以轻易以成本高昂、技术局限为由弱化这些要求。在程序编码阶段，为追求开发效率与保护商业秘密，企业通常不强制要求对涉及公平性判断的关键代码进行详尽注解。在系统测试阶段，测试用例的设计极少涵盖对算法决策公平性的检验，测试的焦点是正确性而非公平性。

算法公平标准缺失的深层困难在于：算法公平本身是一个充满价值判断且语境依赖的多维度概念，存在诸如群体公平、个体公平、机会平等、结果平等等多种彼此可能存在冲突的理解范式。即使对公平概念有一定共识，将其转化为可度量、可监控的技术指标也极为困难，涉及深刻的伦理与政策选择。

（二）算法行政的程序规范供给不足

算法行政对行政程序的冲击，触及行政程序理论基石的范式冲突。传统行政程序以线性单维的物理时空为预设，而算法行政塑造的是多维矩阵型时空场景，决策过程被压缩为“数据输入－参量调试－结果输出”的瞬时闭环。传统程序所要求的亲历性、参与性、直接言辞性因技术程序而失去适用余地。

具体程序环节的规范缺失表现为：第一，启动与告知程序的虚置。算法决策的自动性与隐蔽性使得相对人往往在毫不知情的情况下即已承受不利后果，现行法未规定行政机关在利用算法进行事实认定时的告知义务。第二，说明理由义务的形式化困局。算法的“黑箱”特性使得行政机关即便愿意说明，亦面临“不可解释性”的技术壁垒，或者以商业秘密为由提供模板化的结论式说明。第三，陈述申辩权的程序性消解。算法决策的瞬时性与封闭性严重压缩甚至取消了事前陈述申辩的程序空间。第四，人工干预与复核程序的法定化缺失。《个保法》第二十四条赋予个人“拒绝仅通过自动化决策作出决定”的权利，但该条款中“仅通过自动化决策”的表述极易被行政机关规避。第五，算法记录与留痕机制的规范缺失，导致事后审查面临“证据灭失”的技术困境。

（三）问责机制空心化与监管规则缺位

首先，预防原则下的监管主体缺位。我国当前的监管格局呈现出显著的分散化、附属式特征，缺乏一个能够贯穿算法设计、部署、运行全周期的专业性核心监管实体。临时性、运动式治理难以应对常态化风险。相比之下，域外已有通过专门指令或宪章建立政府算法应用的透明与问责框架的实践。

其次，自动化行政中的责任认定困境。传统行政行为清晰对应“行政机关—行政相对人”的二元责任结构，而自动化行政引入了算法系统及其背后的研发企业，使得责任主体模糊不清。行政机关与科技公司的责任分割是最核心的难题：行政机关常主张是技术缺陷，科技公司则以“按合同交付”为由抗辩。在归责原则上，是适用过错责任还是无过错责任尚无定论。可考虑借鉴大陆法系的“公共设施瑕疵责任”，但算法系统与物理公共设施在无过错责任适用上存在显著差异。

（四）行政相对人权利救济的制度性障碍

首先，救济启动障碍。算法歧视具有高度的隐蔽性，相对人往往仅能感知到结果，而无法知晓该结果是源于算法系统的歧视性决策。同时，算法行政涉及多方主体，相对人难以确定应向谁主张权利。

其次，举证责任的分配失当与证明困境。在行政诉讼中，虽然由被告行政机关承担被诉行政行为合法性的举证责任，但这只能证明行政行为“形式合法”，而无法直接证明算法决策“实质上不构成歧视”。相对人需要举证算法采用了哪些特征变量、是否存在代理变量等，此类证据完全处于行政机关和技术提供方的控制之下。因果关系证明的复杂化进一步加剧了困境。

再次，救济方式的制度错位与效能不足。传统的行政复议与行政诉讼以审查具体行政行为的合法性为核心，其审查对象是“决定”而非“算法”，即便撤销一项不利决定，行政机关只需重新作出一个形式合法的决定即可规避司法审查。《个保法》第二十四条规定的算法解释请求权在救济维度也存在局限性：适用范围限于“对个人权益有重大影响的决定”，权利主体仅限于“个人”，且缺乏强制执行保障。

三、行政场景下算法歧视的法律规制完善

（一）确立算法公平标准

所谓算法公平，简单来说就是机器学习算法在做决策的时候，不能因为个体或群体天生的或者后天形成的某些特征，就对他们作出不合理的差别对待，最后造成不公平的结果。在此基础上，可从四个维度进一步解构算法公平的内涵：预测公平、比例公平、过程公平与结果公平。

预测公平指的是同一种机器学习算法在面对特征相似的个体或群体时，给出的预测结果应该大体相近。预测公平的关键在于确保算法在不同群体之间的预测准确性没有系统性偏差。在指标体系构建上，预测公平可以用平等准确率来量化，要求算法在不同群体上的预测准确率保持相对一致。

比例公平强调的是机器学习算法在做自主决策时，要在受保护群体与非受保护群体之间让结果在比例上保持相当，避免出现反向歧视。比例公平可以用比例公平率这个指标来量化，主要看某项资源、机会或结果在受保护群体与非受保护群体之间分配得是否相对公平。

过程公平要求个体或群体在机器学习算法自主决策的过程中，在获取资源和资格方面，应当享有平等的机会。过程公平可以用机会指数来衡量，关注的是决策过程中不同群体在获取机会上的平等程度。

结果公平侧重于算法在作出最终决策时，对特征相似的个体或群体给予相同或相近的对待。预测结果与最终决策之间并不等同，因此结果公平也应当被纳入算法公平的考量范围。

在指标体系构建方面，平等准确率、比例公平率和机会指数这三项指标已经能够从技术层面为结果公平提供基本的衡量框架。由于不同公平性指标之间往往存在内在张力（“公平性的不可能三角”），一个可行的办法是把结果公平的判断权交还给行政相对人，同时企业还应对机器学习算法的基本原理作一些说明，方便执法机关对算法歧视进行事前监管和事中审查。确立算法公平标准，说到底不是拿技术创新去换一个绝对的公平，而是要在技术创新和公平价值之间找个平衡点，实现二者的协同发展。

（二）完善算法行政程序的法律规范

算法歧视的治理逻辑，必须实现从事后救济到事前预防的根本性范式转换。借鉴日本学者提出的“行政过程论”，应将算法系统从设计之初到结果输出的全过程纳入规制视野。未来应在专门规范公权力算法应用的立法中，系统构建覆盖算法全生命周期的风险评估预防机制。其核心制度要素应包括：评估主体的独立性保障（设立隶属于算法行政监管专门机构的独立评估审计部门）；评估范围的全程覆盖（事前、事中、事后）；评估指标的科学构建（统一制定算法公平性评估技术框架）；评估后果的刚性约束（未经评估或评估未通过的高风险系统不得投入使用）。

算法公开的制度设计必须超越“公开或不公开”的二元对立，基于利益衡量实行分层公开模式。完善行政算法公开备案制度，应从以下维度展开：一是备案范围的明确化，所有直接用于作出对相对人权利义务产生实质性影响的行政决策算法均须备案。二是备案深度的分层化，原则上不要求公开完整源代码，但备案信息应达到功能透明、逻辑透明、风险透明、责任透明。三是备案语言的通俗化，强制要求备案信息以通俗易懂的非技术语言撰写。四是备案效力的责任化，行政机关应对其所备案信息的真实性、准确性、完整性负责，若实际运行的算法与备案信息存在重大实质性差异，应推定行政机关存在过错。

强调人工干预渠道的拓宽，实质上意味着在现阶段公权力领域，应原则上否定具有独立裁量能力的完全自动化行政的适用。立法应当明确：凡是对相对人权利义务产生重大影响的行政决定，无论算法参与程度多深，最终决定权必须保留在具有法定职权的公职人员手中。根据干预启动主体的不同，可将人工干预分为主动介入（行政机关的职权性干预）与被动触发（相对人申请、系统预警）两种模式。根据人工干预对算法决策介入深度的不同，可将其区分为辅助性干预、复核性干预、替代性干预三个效力层级。同时，应建立人工干预的责任豁免机制，对于在法定权限范围内、遵循规定程序、基于合理判断作出的人工干预行为，干预人员应免于承担法律责任。

（三）明确问责机制与监管制度

1. 明确行政主体的责任

在自动化行政的复杂生态中，必须回归公法责任的基本原理：行政主体必须作为对外承担算法歧视风险后果的唯一及首要责任主体。任何算法权力的异化，其权力本源皆来自行政机关的授权、采纳与使用。

为克服算法歧视场景下主观过错证明难、技术因果链条复杂的归责困境，未来的专门立法应在行政领域的高风险算法决策场景中，确立以严格责任（或无过错责任）为主体的归责原则。一旦算法决策对相对人造成了法律所禁止的歧视性损害后果，除非存在法定免责事由，行政机关即应承担相应责任。明确行政主体的对外首要责任，并非免除其他参与方的所有责任。与之配套，必须建立完善的内部追责机制与面向技术提供方的集合责任框架。

2. 建立合作监管制度

首先，设立独立的算法行政监管专门机构（如国家级“算法行政监管局”），拥有法定职权、独立预算和专业团队。其核心职能应包括：高风险算法备案与核准、技术审计与标准实施监督、制定细化规则与指引、受理专业投诉与调查。

其次，推行分级分类的精准监管策略。依据算法的风险等级和应用场景实施差异化监管，将算法分为高、中、低三个等级。对高风险算法适用最严格的监管措施，包括前置核准、年度强制审计、全面透明度要求等。

再次，强化监察机关的协同监督职能。应构建数字行政行为算法歧视的专项监察制度，由各级监察机关主动对数字政务系统中的算法歧视风险开展专项监察，形成并公布算法歧视风险审查报告。

 （四）完善相对人的权利救济体系

1. 建立信息弱势群体平等权程序保护机制

数字不平等与算法歧视之间存在着深刻的共生关系。必须从制度层面为信息弱势群体提供差异化的平等权保护机制。具体制度构建包括：一是确立“可选择性”作为基本程序权利，保障相对人在数字化服务与人工服务之间的自主选择权。二是构建数字鸿沟影响评估制度，在部署可能对特定群体产生重大影响的算法行政系统前强制进行评估。三是建立数字代理与社区支持机制，授权社区服务中心、社工机构等协助信息弱势群体完成数字化操作。四是设立算法歧视异议的简易程序通道，降低申请门槛，缩短处理时限，简化证明要求。

2. 赋予行政相对人算法解释请求权

算法解释请求权，是指行政相对人或其他受影响的个人、组织，在行政机关运用自动化决策作出对其权益具有实质性影响的决定时，有权要求行政机关以可理解、可检验的方式，说明该决策所依据的算法逻辑、关键特征变量、数据来源及公平性保障措施的程序性权利。其法理基础包括监督权、平等权保障与正当程序补充。

公法场景下的算法解释请求权应进行制度重构。规范层面，可以考虑在《个人信息保护法》第三节“国家机关处理个人信息的特别规定”之中增加专门规定，将权利主体扩展至行政相对人（含法人），并将解释权与拒绝权相衔接。解释义务应包含依申请解释与主动解释双重构造。解释标准根据场景适度分层：最低限度解释、中等程度解释、充分解释。同时，应配置以强制履行程序与不利后果推定机制，行政机关无正当理由拒不履行解释义务的，应推定原算法决策存在重大瑕疵。

 五、结论与展望

本文围绕行政场景下算法歧视的法律规制这一核心议题，进行了较为系统的理论研究，揭示了现行规制框架面临算法公平标准缺失、程序规范供给不足、问责机制空心化、权利救济障碍重重等系统性困境，在此基础上构建了一套涵盖事前标准确立、事中程序控制、事后问责监管以及权利救济的全链条规制路径。

从更深层次看，算法行政场景下的歧视问题，折射出的是技术理性与价值理性、治理效率与程序正义、权力集中与权利保障之间的深刻张力。本文的研究只是一个初步的探索，期待更多学界专家加入这一议题的讨论，共同推动算法行政在法治轨道上行稳致远，使数字政府真正成为促进公平正义、增进人民福祉的治理形态。

...