理论与实践兼顾的算法社会研究著作

——读《算法社会：技术、权力和知识》

高新科技影响了人类社会生活的方方面面，以大数据为基础、以算法技术为核心的人工智能，正以前所未有的速度、广度和深度影响着人们的工作和生活。从平台推送的新款盲盒链接，到交通违法行为的自动识别和处置，再到企业对日常事务的风险预测，甚至智慧城市的基础构建，都可以看到算法的“身影”。那么，到底是我们“使用”算法，还是算法在“治理”我们？如何看待算法对生活的深度干预？或许通过《算法社会：技术、权力和知识》（商务印书馆2023年7月出版）一书，我们可以得到解答。

该书由荷兰学者马克·舒伦伯格和里克·彼得斯编撰，分为三个部分，共十一章。书中，十多位学者的讨论话题涵盖了算法社会性应用的最主要场景。第一部分主要探讨了算法在公共组织的事务决策、监管、服务提供和规则执行中如何发挥总体作用，揭示了算法应用的机理；第二部分分析了算法在刑事案件中如何发挥预测和决策作用，并展示了目前的应用现状和未来走向；第三部分重点反思智慧城市这一概念，以及算法在城市治理中的成与败。各个章节之间存在有机联系，有着明晰的思想和理论主线。

为避免读者“只见树木不见森林”，编者在书中还设计了引言和思想总结。在引言中概述了算法的技术内容和算法治理的基本原理，并探索其改变社会治理的方式。思想总结尤为精彩，汇总了各章的论点以及该书的主题，并围绕算法社会的运行机制和相关困境提出观点，为著作画上了一个圆满的句号。

虽然该书比较专业，但译者王延川和栗鹏飞用通俗易懂的语言诠释内容，读者阅读并无障碍。总的来看，该书具有以下特点：

视角独特，观点新颖。一般而言，人们常将算法分别与相关的技术、权力和知识结合起来研究，该书却从技术、权力和知识三个角度对算法展开讨论，全方位展示了算法治理的生成和运行逻辑。算法技术衍生权力，权力缔造数字化知识，数字化知识支撑算法技术，同时使得算法权力得到进一步加固，这种自洽的逻辑和丰富的内容会让读者获得有关算法治理的系统性知识。

该书将公共管理、刑事司法和城市治理三个话题融合到“算法治理”的框架中，以期深入发掘算法的运行逻辑、价值基点以及由此引发的伦理争议，进而对算法应用过程中的关键痛点提出解决方案。另外，该书的部分观点颇具新意，比如算法技术的危害源于人们的使用方式，算法伦理的一个核心问题是“算法对受众有什么作用”等。

主题鲜明，重点突出。技术乌托邦者认为，技术是纯粹理想的、客观的、中立的事物，能够以流程化、规范化的代码摆脱人为干扰。该书指出，算法治理具有公平、高效、可靠、省时等诸多优点，但算法并不是完美无瑕的。在第三章，作者回应了算法偏见、算法权力滥用和个人信息保护等问题。在第六章，作者直言机器学习风险评估，会重现不透明的风险计算。诸如此类的分析在书中还有很多，这些分析均清晰地揭示了算法治理的弊端以及成因，读来极具启发意义。但作者并未在揭示弊端后因噎废食，主张退回“美好的旧时代”，而是以更多的笔墨来探讨各种算法治理问题的有效防治方案。

内容全面，理论与实践兼顾。该书从计算机科学研究的前沿问题出发，充分讨论算法技术与公共治理、司法实践、智慧城市的关联，抽取其中的重要概念，并分析问题成因，提出应对策略，是近年来有关算法社会性应用的系统性研究成果。尤其是作者并非在象牙塔之内空谈算法理论，而是从算法治理的具体应用场景中发现问题，并寻求相对妥当的解决之道。比如在第二章，作者提出“算法治理术”及“反引导”的终极目标，是主张建立更强大的法律保护和评估结合模式，并给出相应的具体措施；在第四章，作者认为直接给出算法运行与当代治理的关键概念是公民对政府的信任，加强公民信任的关键是组织过程，在组织过程中需注意价值敏感性和透明度。该书既有理论高度与深度，又能回应社会现实需要，并提出具体的改进意见。比如第二部分有关算法刑事司法的研究，就融合了理论和实践两个方面，对目前我国的智慧司法建设具有重要的借鉴意义。

经典作品，引领学术潮流。该书是国内市场上为数不多在理论和实践两方面均有所长的著作，加上运用哲学、政治学、法学、管理学、心理学和生物学等多学科知识，可谓内容精深、方法独到，堪称学术经典。作者在书中独创了一些概念，如算法治理术、算法的技术篡夺、负责任和可问责的算法运行、智慧城市的感官压抑和感官控制、作为对抗性表层的算法城市等，这些概念提供了算法理论研究的有益切入点。需要注意的是，该书虽然没有为所涉问题提出完美的解决方案，但已有的这些方案无疑具有创新性，如果顺着这些思路继续探讨，也能为算法治理研究作出更大贡献。

近年来，随着《新一代人工智能发展规划》《新一代人工智能治理原则——发展负责任的人工智能》《新一代人工智能伦理规范》等政策文件的发布，算法在我国的研发和应用有了明确的方向。随着算法应用的深入，其弊端也慢慢浮现出来，需要推出相应的对策和措施。2022年3月1日，《互联网信息服务算法推荐管理规定》在我国正式施行，对算法推荐服务做出全面规范，科学构建网络平台问责体系。2023年，ChatGPT横空出世，我国迅速启动应对机制，在短时间内推出《生成式人工智能服务管理暂行办法》。未来算法的应用推广与风险应对之间的关系如何平衡，将成为算法治理研究的重要内容。

算法发展日新月异，其应用机遇和挑战并存，需要有价值的理论帮助我们更为透彻地理解算法的本质和应用，并以有效的实践创新助力算法治理风险应对。该书在算法治理研究方面具有前沿性、系统性，能够给相关部门提供有益借鉴，普通读者也可以从阅读中获得一些宝贵启示。

来源： 河北日报