走向计算的政治哲学：关于公平性与机器学习的对话

《ACM Journal on Responsible Computing》：Towards the Political Philosophy of Computing: Conversations with Fairness and Machine Learning

公平性与机器学习：多学科视角下的伦理挑战与社会影响研究摘要，

　　

摘要

本特别栏目的目的是促进计算机科学家、信息科学家与哲学家之间的跨学科对话。这些文章探讨了如何将“公平性与机器学习：局限性与机遇”作为探讨实证计算机科学在计算政治哲学中作用的起点，反之亦然。我们希望这场研讨会能够围绕那些本质上是哲学性的问题引发跨学科的讨论，这些问题涉及技术层面、机器学习所嵌入的社会技术系统以及机器学习的社会影响。

1. 引言

尽管人们对未来通用人工智能（AGI）系统的担忧日益普遍，全球的技术专家和政策制定者都在努力预测和缓解潜在的AGI风险，但现有的机器学习（ML）系统已经在公共和私人生活的许多方面悄然引发革命。机器学习从根本上重塑了注意力经济，越来越多地被政府用于提供服务，并默默地支撑着全球投资的基础设施。然而，在所有这些领域中，早期的热情已经让位于一种深刻的认识：在任何关键场景中部署机器学习系统都伴随着严重的风险——这些风险并非来自未来的AGI系统，而是来自那些经常重现社会不公现象的现有系统。

早期关于机器学习系统社会成本的重要研究推动了公众辩论和社会政策的制定，但大多数早期的大型著作都侧重于说服公众认识到过度依赖这些系统的风险。Solon Barocas、Moritz Hardt和Arvind Narayanan是公平机器学习研究领域的核心人物，他们提炼并深化了技术与社会交汇处的一系列关键规范问题。《公平性与机器学习：局限性与机遇》一书不仅是计算机科学家的必读之作，也是希望更好地理解机器学习及其相关问题的其他学科学者的宝贵资源。

本特别栏目的目的是促进计算机科学家、信息科学家与哲学家之间的跨学科对话。这些文章从不同角度探讨了如何将这一里程碑式著作作为探讨实证计算机科学在计算政治哲学中作用的起点，反之亦然。我们希望这场研讨会能够围绕那些本质上是哲学性的问题引发跨学科的讨论，这些问题涉及技术层面、机器学习所嵌入的社会技术系统以及机器学习的社会影响。

Lily Hu在“机器学习中的公平性：新变化与旧问题”一文中，通过深入研究机器学习系统做出的官僚决策，探讨了其中是否存在规范上的独特性。她的一个结论是，可行的技术替代方案为现有的官僚决策机制带来了新的正当性要求。公平性与机器学习一书的一个重要贡献在于其对机器学习系统合法性的讨论。Jake Stone和Brent Mittelstadt在“合法权力与非法自动化：自动化决策系统中忽视合法性的问题”一文中延续了这一主题，批判性地分析了各种使机器学习系统合法化的策略，并认为民主授权是一条有前景的途径。

有两篇文章挑战了“机会平等即实现机器学习公平性”的普遍观点。Joshua Cohen和Lydia Tingruo Liu在“公平性的范围”一文中借鉴了罗尔斯的政治哲学理论，扩展了机会平等的概念，指出大规模应用人工智能还会影响收入和财富的公平分配、政治自由以及公共讨论等方面。Youjin Kong在“机器学习公平性的意义何在？超越机会平等”一文中指出，当前对分配平等的关注未能充分认识到机器学习系统可能带来的代表性伤害，并提出了一种整合分配平等与关系平等概念的新平等主义框架。

这些文章为计算政治哲学领域的发展做出了重要贡献。这一新兴子领域处于计算机科学、统计学、哲学、法律和社会科学的交叉点。进展依赖于多个领域的深度和专业知识——每个领域都涉及复杂的技术问题。此外，这些领域内的概念工具往往存在冲突。例如，“公平性”、“偏见”或“解释”等术语在机器学习中可能有精确的数学含义，在法律中具有强烈的教义意义，在政治哲学中则带有道德层面的解释。

计算政治哲学领域的进展迫在眉睫。人工智能的快速发展阻碍了严谨和深入的学术研究，反而催生了肤浅但吸引眼球的分析。然而，人工智能的紧迫性也意味着我们必须准确诊断社会问题并提出正确的解决方案。肤浅的探讨可能会误解和误判问题及其可能的解决方案。相反，严谨且注重实践的反思需要概念上的清晰性，并明确认识到问题表述和解决方式中所蕴含的承诺和选择。共同的概念基础对于实现这一目标至关重要。

公平性与机器学习在构建这些基础方面取得了重要进展。除了具体的理论提案外，该书还为跨学科方法论提供了有力的范例。它确立了一个稳定的参考点，促进了基于共同理解和框架的真正跨学科对话。本书为该领域的研究人员提供了基础性的研究框架。

本特别栏目的文章在此基础上进一步拓展了与政治哲学文献的对话，探讨了其理论和实践意义。它们实现了这一领域的双重目标：一方面利用前沿技术重新审视我们规范框架中的假设，扩展对基本规范概念的理解；另一方面通过严谨的概念分析审视技术设计和开发中蕴含的价值观和选择。这些文章直面该领域研究人员面临的挑战，有助于将这一跨学科交叉点变成进行深入研究的场所，以应对深刻的技术和社会变革。