算法社会：技术、权力和知识

〔荷〕马克·舒伦伯格 里克·彼得斯 编

王延川 栗鹏飞 译

ISBN 978-7-100-22035-4

算法将怎样塑造你？

从简单推荐在线搜索结果或社交媒体上“你可能认识”的朋友，到帮助医生预测你患癌症的风险，决定你是否能获得抵押贷款，或者预测暴力团伙犯罪和入室盗窃犯罪等更重要的问题，随处可见算法的身影。但是，它很难被发现，你甚至可能都没有注意到我们的生活在多大程度上受到它的影响。我们在脸书（Facebook）上消费的内容、Spotify上听的音乐、奈飞（Netflix）上观看的电影，都依赖于算法的预测建模。借助每次点击，算法学习将“投喂”个性化内容，并为我们推销最佳的体验。尽管许多算法用例由商业利益驱动，但它们也被用于公共领域，比如医疗保健、教育、刑事司法和税务管理。公共组织越来越多地使用新形式的数据分析来改善公共服务。我们发现，法官使用算法来决定刑事被告是否可能再次犯罪，市政当局使用算法来确定废物回收的最佳路线，学校用算法分配学生。算法正在被普遍接受并将继续帮助我们。算法是应对我们这个时代重大挑战如安全、公共服务、健康医疗和环境保护的一种良策。

我们生活在一场重大的生活变革中，虽然这是一个令人难以置信的时空，但我们必须警惕随之而来的影响。通过算法，我们的日常行为产生了数量惊人的数据，算法处理这些数据并对其进行操作，从而做出管理、控制和推动我们日常生活行为的决策。算法的使用不仅扩大了日常的管控和监督的可能性，而且引入了一种新的范式，即提高治理的合理性，转变权力的运作方式，以及闭合决策的程序。我们可以用“算法治理”或者社会学家称之的“算法官僚”来描述它，算法治理则代表用“黑箱”算法取代人性化、清晰可读和负责任的判断（2006，2009；Engin & Treleaven，2019）。“算法治理”一词表达的是三个独特但相互关联的要素，这些要素直接影响我们的行为。虽然决策自动化并非特别新鲜之事，但算法的影响在自动化、架构、预期应用这三个方面正变得越来越系统化。全自动化意味着人类代理几乎完全可以从决策程序中退出，尽管在实践中这种情况的程度有所差异。算法收集信息（输入）、处理信息（吞吐量）、应用信息（输出）并学习改善输出（反馈）（Zarsky，2013；Citron & Pasquale，2014；Danaher，2017等）。人工智能、数据库、网站和自动化程序正在从实际决策中取代人类代理（Henman，2010；Peeters & Widlak，2018；Van der Voort，2019等）。而且，决策成为一个分类问题，而不是个案判断问题（Peeters & Schuilenburg，2018）。因此，新的行动者或专家正在进入博弈，却通常未受过社会科学方面的培训。自由裁量权转移到了设计算法的IT专业人员和识别行为模式的数据分析师手中，在某种程度上也转移到了算法手中，它们辨别新模式，并通过机器学习相应地调整决策程序（Hannah Moffat，2019）。

再者，算法不仅嵌入现有的组织实践或程序中，而且形成了信息架构的核心，在很大程度上决定了商业组织和公共服务的运作方式。算法的广泛使用符合组织运作数字化的历史发展。20世纪80年代，信息技术主要用于将组织文档转换为标准化和可打印的版本。接下来是通过数字化将文件和信息录入数据库，然后将其用于数字化形式的决策程序和组织分析。预先登记的纳税申报表就是这种发展变化的典型例子。因此，组织实践也相应地发生变化。电脑屏幕取代了纸张，系统级信息技术取代了基于正式法律程序的个人决策（Bovens & Zouridis，2002；Landsbergen，2004）。最新的发展是利用信息技术在网络组织之间共享数据。现在一个组织的自动化决策的作出可以基于来自另一个组织的信息，这不仅意味着技术的协调（Olson & Subodh，2010），还包括定义、分类和法律框架的协调（Widlak & Peeters，2018）。因此，算法作为数据共享和自动化决策程序的核心，应该被理解为更广泛的信息架构的一部分（参见Yeung，2011，2018）。超组织信息系统作为一种基础设施，允许信息自由流动，但也指导和限制其使用（Bowker & Star，2000；Cordella，2010）。最后，近年来基于算法的组织实践的应用范围逐渐扩大。更重要的是，算法不再仅仅被用于现有的内部自动化程序中，而且在形成新的社会治理模式过程中发挥关键作用。比如在上述示例中，算法用于预测、推动或约束人的行为（Danaher等，2017）。它们通过分数、排名、简况和范式来做到这一点。在《监控资本主义》（Zuboff，2019）一书中作者写道，信用卡公司以及脸书和谷歌等社交媒体平台，对客户行为进行分析和预测成为支撑他们数字王国的一种强大的商业模式，并且适用于电子商务（Mayer-Schoenberger & Cukier，2013）。关于公民的评分和排名的大量事务也延伸扩大至公共领域（Harcourt，2015：205），其中借助算法的风险评估用于制作禁飞名单、缓刑决定（Smith，Bennett Moses & Chan，2017：260）、确定警察监控资源分配（Bennett Moses & Chan，2018），或以大数据分析得出“其他”算法结论上的异常事物（Aradau & Blanke，2017）。此时，算法预测通过将抽象化的人和他们的行为变为一组变量——如年龄、性别、教育水平、消费者行为、犯罪记录和收入等——来突出行为模式和特征。个人已成为“分格”（Deleuze，1990），由描述和预测其行为的数据集定义。因此，自主和主权主体的范式不再是一个启发性的出发点。“分格”在不同的数据库中是具有许多角色的实体（Koopman，2019）。（节选自《算法社会：技术、权力和知识》第1-4页）

编者简介

马克·舒伦伯格（Marc Schuilenburg），荷兰阿姆斯特丹自由大学刑法和犯罪学系助理教授。研究侧重于政治和犯罪控制、安全治理、社会秩序、理论犯罪学和法国哲学。著有《社会安全化：犯罪、风险和社会秩序》（纽约大学出版社，2015年）和《歇斯底里：犯罪、媒体和政治》（卢德里奇出版社，2021年）。

里克·彼得斯（Rik Peeters），墨西哥城经济学研究与教学中心（CIDE）研究教授。他通过对官僚制、数字政府和行政负担的研究，分析了国家与公民之间的互动，发展了功能失调官僚制的社会成本理论，曾发表有关“数字牢笼”和“低信任官僚制”等方面的研究。

译者简介

王延川，法学博士，西北工业大学马克思主义学院教授、博士生导师。陕西省法学会互联网法律与治理研究会会长、陕西省法学会人工智能与大数据法学研究会常务副会长、陕西省公民科学素质与社会治理研究中心执行主任、西北工业大学智能科技与国家治理现代化研究中心主任和首席专家、西北工业大学陕西省重点舆情信息研究中心研究员、工信部智能科技风险法律防控重点实验室学术委员会委员、中国法学会研究会青年人才、华东政法大学数字法治研究院特聘研究员。研究方向为民商法和数字法治。

栗鹏飞，法学博士，西北农林科技大学人文社会发展学院讲师。陕西省法学会互联网法律与治理研究会秘书长。研究方向为商法、公司法。

内容简介

算法不但在塑造当前的社会，更在塑造我们的未来。算法不仅是一项将数学原理应用于海量数据的最新技术创新，它还是一种新型权力，并影响我们社会的重要领域，如在行政、卫生、教育、工作、刑事司法和城市建设中发挥关键性作用。它既促进我们生活和工作的大发展，又塑造我们的主观意识，让我们变得越来越不自由。而这一切都是借知识之名而生。算法以“非意识形态”形式出现，带有客观性和合理性“气质”，其对人类的治理看似合情合理，却又让人“细思极恐”。如果说算法社会已经有“疾”，那么，提升人类代理在算法社会的地位，以人的福祉为名对算法决策进行适时和恰当干预或许是一剂良药。

推荐语

人类发明了算法，算法反过来支配人类。掌握算法的人就可以控制算法权力。现有人类社会，法律与价值都正在遇到算法权力的重新支配。如何实现“算法至善”的发展方向，是这本书所揭示的重要内容。

——吴志攀 北京大学教授、原常务副校长

本书专业分析算法的运行逻辑，深刻批判技术背后的“权力关系”，同时试图构建有利于算法治理与民主、法律和社会价值相兼容的制度框架，是研究算法社会的佳作。

——付子堂 西南政法大学教授、校长

算法已经成为新的社会治理工具，政府利用算法从事决策并分配资源，这些决策和分配影响民众的行为、利益和福祉，本书反思当代算法社会带来的这些政治和伦理挑战，并探讨该挑战的形成和现状、正当性以及应对策略，内容丰富，值得一读。

——王轶 中国人民大学教授、副校长

作为支撑数字社会运行的底层技术，算法不断重塑政府、社会组织、企业和个人之间的关系，这种重塑在许多情况下是绕开法律而实施的，如何破除算法权力对人类的这一“主宰”是摆在我们每个人面前的严肃话题。本书针对该话题展开多层次和多角度讨论，提出了不少真知灼见，相信会带给读者很多宝贵的启示。

——马长山 华东政法大学教授、数字法治研究院院长

我们迫切需要尖锐的问题、更好的概念、大胆的想法和明智的建议，以便在公共政策关键领域兴起算法使用这一根本性矛盾问题上取得进展：算法可以使政府变得更智慧、更高效，同时也会产生一堆令人不愉快的意想不到的后果。本书为我们提供了分析工具和仔细的推理，以便与我们当今社会最普遍的变革推动者达成共识。

——保罗特·哈特（Paul't Hart） 乌得勒支大学管理学院教授

算法已经成为日常生活的关键媒介。然而，我们仍在努力了解它们的运行和效果。本书适时地提供了一个深刻的、有洞察力和丰富的算法力量图解分析，对于那些试图理解算法治理在实践中如何发挥作用以及它为什么重要的人来说，本书是必不可少的读物。

——罗布·基钦（Rob Kitchin） 诺思大学社会科学研究所研究员

相关推荐

法律与科技译丛

11月新书

内容简介：

本书策划开启传播学视野的“算法阅读”模式，全面勾勒算法传播的理论形态和实践意蕴，以此加深理解正在进行的智能传播变革的本质。

本书共分三篇九章，分别对算法传播与智能社会、算法传播与政治传播、算法传播与媒介文化等专题展开系统性研究，揭示算法与算法传播在创造一种新的社会、政治和文化情感方面所拥有的隐形超权力。

算法传播与智能社会部分——以深度媒介化理论为基础，对算法作为媒介型构智能社会诸形态展开深入研究；算法传播与政治传播部分——深度解析计算政体、人机传播、机器人的政治修辞等关键议题；算法传播与媒介文化部分——聚焦于算法传播对媒介文化的改变，深入剖析算法文化、平台文化等新兴文化形态的产生根源与现实影响。