本文是一篇法律论文，本文探究科技发展与法律治理的平衡点，对于算法歧视的法律规制要避免过度限制，充分激发互联网企业创新的灵活性，并促进算法更新迭代的良性循环。
第一章 人工智能视阈下的算法与算法歧视
第一节 算法基础理论概述
一、算法自动化决策界定
弱人工智能过渡到强人工智能的过程中，算法演绎这一核心源动力角色。算法是指计算、解决问题、做出决定的一套有条理的步骤，23一个算法是解决一个问题的进程，类似于食谱对食材的指引。互联网与云计算技术的兴起，计算机科学领域中的算法，指输入数据信息于设定计算机指令程序中，通过减少人类主体意识干预的自动化决策，进而输出处理结果。24算法大体分为机器学习算法与深度学习算法两大类：前者类似人脑的神经网络系统，于重复相同的任务中进行短期记忆与模仿；25后者能够于海量输入数据中自主学习并输出理想化结果，识别更为抽象的图像，解决更为疑难的程序。国际上存在将算法分为“符号AI”与“神经网络AI”的两种学派。达特茅斯会议后形成两派，一派是以自下而上为代表的类似逻辑归纳的符号主义派，另一派是以自上而下为代表的类似演绎的连接主义神经网络派。神经网络算法暗含反向传播，产生黑箱模型，并逐渐成为人们讨论的主流议题。
（一）内涵厘清：鉴别于“算法辅助决策”、“人类自主决策”
算法自动化决策，是秉持已有计算机系统的程序和逻辑，输入事实数据，重复性地推理、计算、分析、评估个人性格、职业与经济状况，不断更新强化的程式化决策行为。通俗而言，是一系列自动运算的系统称谓。机器与软件是算法自动化决策再生产数据信息的桥梁。自互联网算法的技术意义（互联网1.0时代）到工具价值（互联网2.0时代），最后人工智能时代具备了本体化特征，这是算法设计、部署、运用的技术更迭的产物，是脱离设计者、使用者意识的“黑箱”行为。算法从此褪去工具身份成为自主决策者。
第二节 算法歧视乱象剖析
歧视，在法律意义上是与平等相对立的概念，是一种对某个体或类群的任意的、重复的、不合理的区分对待，是对宪法保护意义上平等权的侵犯与剥夺。38它不为法律所正当许可，且造成了群体性受侵害后果。歧视是主观性地基于人类个体身份属性的对个人正当权利与自由的区别、限制、排斥、优惠不合理对待。
一、算法歧视的表现与步骤
算法歧视的精妙之处在于，其广泛影响着算法相对人受众，却甚少被发掘。挖掘出它的外在表现与形成步骤，是破解歧视迷雾的第一步。算法从便利帮助算法相对人提高工作效率，到吸引注意力导致算法相对人沉迷，逐渐丧失其意思自治性，继而规训其意志，最后反过来对相对人的意志产生操纵，影响其认知判断和行为。
（一）算法歧视的表现
弱人工智能向强人工智能过渡的时代，算法逐渐褪去提高工作效率的工具身份，渗透在人们身边的每一个角落却难以察觉。淘宝、美团等电商平台和在线旅游平台以低价吸引新客注册，用高价宰杀熟客的例子并不稀缺。招聘软件与公众号的智能简历筛选与HR推荐很少会被面试官质疑其筛选机制。司机熟悉的路线与高德地图导航的路线存在出入时，甚少相信自我惯性判断否定导航路线。司法审判算法工具—类案检索平台，根据类似案件争议焦点划分案件类别，总结同一类别的事实认定与法院判决结果，以便今后检索案例时给于判决参考，那么，法官作为判决主体，是否会质疑算法的推荐呢？2016年算法强化选民政治倾向左右特朗普大选，Cambridge Analytica公司在英国脱欧政治事件中影响选举公正。2015年7月发生“Google图像识别将黑人标记为大猩猩”事件，此外美国最高法院的Griggs v Duck Power 案，案中以“高中学历门槛”替代明示的对黑人的种族歧视。外卖系统中外卖小哥超时配送罚单规则对其人身安全、健康、精神紧绷程度产生控制与支配。上述现象均表明算法歧视表现在生活的各个角落。
第二章 理论检视：算法歧视法律风险与法律规制困境
第一节 算法歧视法律风险论证
算法自动化决策歧视对个人平等权、隐私权、自由及正义造成了严重的危害，这种不正当的歧视在反馈循环中升级放大，并衍生价格歧视消解交易公平信任基础。算法歧视带来的问题可以划分为两类：一是结构性问题，产生于算法决策内部系统各部分形成的过程；二是功能性问题，产生于算法决策外部应用全过程。对于社会生活领域引发的各种法律风险，算法与传统的道德与法律产生法律规范领域的交叉，因此法律规制算法歧视具有必要性。
一、引发对平等权的威胁
算法社会是一个少数精英主宰多数人的社会，是人的智性高度发展的结果，未来面临由点到结果的全面的不平等。平等源于古希腊西塞罗的理性平等观，首次在法国《人权宣言》中确立下来，现代社会平等已是不可忽视的人权话题。而歧视的本质更是重复的、系统的不平等对待。
（一）引发平等理念威胁
传统社会法律的可预见性十分有限。云计算等信息技术下，信息获取成本降低，算法个性化推荐促进法律个体化规则的形成，挑战法律调整对象、使用的一般性原则，而法一般性原则是法治的重要支撑点。算法对法律调整对象的划分具有不确定性和非准确性，划分为弱势的一方因个体化规则将愈发被歧视反馈，强者愈强，弱者愈弱。
（二）引发算法歧视识别威胁
平等伴随着生物自我意识的觉醒与人类相伴相生。在如今平等理念的价值准则下，法律约束歧视的情况下，歧视更多以隐蔽而非显性的形式表现出来。算法歧视主要以隐性歧视的方式侵害平等价值，使人们陷于无法识别歧视的牢笼。以看似中立、平等、客观的却实际暗含歧视因素的特征，主导数据预测和算法决策。如美国医疗健康算法中的种族歧视，自2012年“平价医疗法案”推出风险预测算法，2019年《科学》杂志公布一项调查称，算法根据历史医疗支出来预测病患风险、判断医疗需求、分配医疗资源。黑人病患由于经济窘迫支出较少，被误判比白人病患更低的医疗需求，但其实黑人的医疗需求和疾病率更高。因此表面中立的医疗支出特征暗含种族歧视因素。又如姓氏、居住片区、节假日（暗含种族信息）进行种族歧视,再如美国二手车销售市场，算法区分买家购买历史及信用记录综合打分，相对应差别化优惠定价，此时非洲裔美国人由于经济情况一直分数较低，交易价格便更高，形成种族歧视。
第二节 算法歧视法律规制困境探讨
挑战传统法理价值及伦理规范，凸显出了算法歧视规制的必要性。然而，算法歧视鉴别于一般歧视的关键在于，其独有特性带来的特殊规制困境。探析法律规制算法歧视的可行性障碍，方能完善算法歧视危机的法律应对模式。结合算法歧视法律规制的已有成效与局限，剖析出算法歧视在治理中的五大难题：传统路径难题、法律滞后难题、监管路径难题、事后问责难题、透明边界难题。
一、传统算法歧视规制路径失灵
算法的规制主要从自我、市场、伦理、法律四个方面展开，如吸烟问题的四种解决进路：一是限制香烟中尼古丁含量、降低口感；二是抬高香烟价格降低香烟消费；三是进行道德负面宣传对吸烟者以引导；四是制定法律限制向未满18周岁的人销售香烟。然而，由于企业使用算法的目的就在于获取法外利润，并以强大的技术复杂性和不透明特性逃避监管，因此企业对自身的自我规制缺乏主动性；市场中以互联网科技巨头为代表的垄断局势已经形成，人工智能时代的竞争市场是以数据资源为主的角逐，可数据资源已被牢牢地被寡头所占，市场规制机制变得薄弱与无力；伦理上，道德主要以自然语言的形式表达，难以嵌入算法权力衍生的由代码与数据组成的内部规则，道德难以为计算机技术理解，自然也不易受到道德约束。
第三章 实践考察：规制算法歧视的法律模式及联袂治理 .......... 44
第一节 本土反思：我国法律规制算法歧视的现状与不足 ................ 44
一、我国算法歧视法律规制现状 .................................. 44
二、评析当前法律模式的缺陷 .................................... 47
第四章 模式建构：法律规制算法歧视的完善建议 ................ 58
第一节 宏观指引：算法歧视法律规制原则 ............................ 59
一、算法公平价值原则 .......................................... 59
二、算法风险分级控制原则 ...................................... 61
结语 .......................... 82
第四章 模式建构：法律规制算法歧视的完善建议
第一节 宏观指引：算法歧视法律规制原则
算法各主体对于算法歧视的意识自觉，是理念层面的算法歧视规制前提。算法开发者和使用者意识到算法行为带来的系统地不公正对待，用户作为网络社会弱势群体，察觉到信息推荐受限、价格歧视、个人数据泄露等迹象，以及数字信息鸿沟带来的不对等地位。因而，树立算法公平价值原则在算法应用中尤为重要，同时要培育网络用户抽离“信息茧房”认知，激励其主动防范维护自身网络权益。
一、算法公平价值原则
公平价值原则为人们耳熟能详的法律原则，早已应用于生活规范的各个领域。然而，算法领域中公平原则的顶层贯彻并不彻底。代码技术打破时间、空间的范围限制，使得公平原则的规范依赖“技术自觉”，网络开发者和使用者必须自觉践行算法的平等对待。
（一）算法公正价值观立塑
全方位算法公正价值观的树立需要公众、企业、政府三方共同努力。算法开发者和运营者要自觉贯彻算法开发、使用中的公平公正原则，政府公共权益执法机构也应该加大不公正算法行为的执法力度。根据算法歧视在网络侦查、司法审判、医疗、电商、等领域进行分级分类，算法公正的落实手段、规则、程度也要差别对待。65采用类人化管理思维贯彻算法公正，效仿对人的约束方法来约束算法歧视。人脑堪比高度发达、智力复杂的智能机器，思维深度与自主意识远超算法，现存的法律尚能有效约束人类达至公平，算法也可以模仿规制人的方法来规制。人的公正价值观塑造会受到情绪、心理因素等的影响，算法则大部分根据设定程式步骤执行初始目标。因此，只要采用类人化管理方式，将公正价值观摄入算法的决策理念，算法执行的结果便会符合规制的公正价值。
公民算法素养即对于算法歧视的意识自觉、算法技术知识的初步了解。算法链条所涉公众分为算法开发者（算法工程师）、算法运营者（企业算法使用者）、网络用户三类：其一，站在算法开发者角度，由于算法本质由开发者的意志设计创造，所以开发者要自觉遵循公平价值理念，将公平元素融入算法运行程序中，减小算法结果的偏差几率。其二，站在算法使用者的角度，算法使用者须有理解、透析算法的能力，以及使用中遵守算法伦理的素养，能及时察觉使用过程中算法的不公正对待行为。其三，站在算法的应用对象即用户的角度，培养基础的算法入门知识是必要的，与此同时，要提高对于“技术无意识”侵权的自我察觉能力和救济能力。
结语
弱人工智能时代过渡到强人工智能时代的进程中，算法脱离“技术中立”的工具特色，拥有自主更新迭代能力。抛开“机器理性”、“数学理性”的迷惑外衣，置身于“信息茧房”中，算法自动化决策具有高强的隐蔽性、程序的复杂性，暗含的歧视将侵害个人隐私权、公平交易权、公共伦理秩序的行为演绎于无形。认清算法歧视的本质，应对其产生的数据主体侵权危机是法理学研究的重要议题。数据主体与数据控制者之间的技术鸿沟形成算法权威，构成数字经济时代的权力失衡。算法霸权社会，算法权力以第三种权力的身份的诞生，打破传统“公权力-私权利”的二元权利格局，政府与用户不再处在公私对抗的激烈对立面。然而却打破了权利平衡，侵害数据主体权利的正当行使。现有的域内外算法歧视法律规制模式各有优劣，无法评判出完美的法治模式，只能在吸收借鉴的基础上，不断完善与保障数据主体的公平与自由。长远来看，规制算法歧视的终极目的是实现数字平权。数字化重塑的人类社会，以掌握数据资源为核心，反算法歧视构建的根本就是反对权利的不公正对待。数字平权包含维护互联网用户的自由、平等、安全价值，在贯彻宪法平等权理念的前提下，将“以人为本”植入算法代码设计。探究科技发展与法律治理的平衡点，对于算法歧视的法律规制要避免过度限制，充分激发互联网企业创新的灵活性，并促进算法更新迭代的良性循环。
参考文献（略）