序
算法已经成为这个时代的焦点话题之一。有人将它视为效率革命的引擎,有人视之为制造不平等的黑箱,还有人认为它正在成为现代社会无所不在的数字空气。这本《代码之镜:算法时代的社会图景》试图在众说纷纭中另辟视角,把算法作为社会现象来解释。
《代码之镜》最大的贡献在于呈现了一个基本事实:算法从来不只是技术工具,也是与社会结构同行、与日常生活相伴的社会建构物。从训练数据携带的人类偏见,到程序代码植入的文化背景,再到平台的商业考量和用户的行为反馈,算法的每一次决策都携带着相关社会群体或势力的观念印记。把算法作为社会事实,意味着我们可以跳出靠技术修补工程来理解算法的社会逻辑,从制度、文化、伦理等多个维度展开系统性思考,解决深藏于算法代码的社会问题。
《代码之镜》的作者们用鲜活的案例将社会视角对算法的理解具象化。李子柒现象背后的文化算法、外卖骑手与调度系统的日常博弈、亚马逊招聘算法对女性的隐性歧视等,都不只是技术议题,也是社会现实的代码复现。理解了这一点,就能明白为什么算法治理不仅是工程师的事,还是社会共同体的共同责任。
《代码之镜》对算法社会群体性特征的思考尤其值得称道。比如,女性如何在算法偏见中寻找突围之路,外卖骑手如何与调度系统斗智斗勇,普通用户又如何在信息爆炸和社交同温层中保持自主性,等等。这些观察与分析表明,技术公平在日常生产与生活中会具象化为人们的具体感受。人脸识别系统每一次错误识别都会让被识别对象感受到被歧视、被不公允地对待。而每一次对技术错误的投诉,或对技术的正确应用比如她数字未来创造营为乡村女孩打开技术世界的大门都会让我们看到多元参与的社会价值。
《代码之镜》对平台治理的讨论也有建设性。作者们在剖析平台算法治理所面临的问题时,也展示了负责任的算法治理如何成为可能。从懂法讲德、可理解、能问责的治理原则,到算法备案、伦理审查、用户赋权等实践,人们期待的是创造一种多方参与的治理生态。尤其值得一提的是,《代码之镜》认为算法向善不应止步于规避风险,还要主动创造社会价值,让技术的温度在人们日常的生产与生活中得到彰显。
在这个算法无处不在的时代,理解算法已经成为理解我们自己的一部分,治理算法也是建设未来的一部分。对此,《代码之镜》没有给出终极答案,却开启了一场必要的对话。至少我可以知道,算法的未来并不取决于技术精英,而取决于社会的共同参与。
有鉴于此,我诚挚地向关心技术与社会的读者推荐这本书。因为正如作者所言,算法塑造社会,而社会的未来,也需要我们一起来塑造。
邱泽奇
北京大学博雅讲席教授、北京大学数字治理研究中心主任
清华大学法学博士(社会学专业)。中国社会科学院社会学研究所、中国社会科学院人工智能研究促进中心研究员。国家社科基金重大项目、中国社会科学院创新重大项目首席专家。主要研究兴趣为数字社会学、科技社会学、企业社会创新、人工智能与社会。曾在耶鲁大学、纽约大学阿布扎比分校、法国波尔多政治学院、英国发展研究所、德国杜伊斯堡大学等机构从事博士后研究或访学。曾获陆学艺社会发展基金会社会学优秀成果奖(2019、2023)、第九届高校科研优秀成果奖(人文社会科学)青年成果奖(2024)等学术奖励或荣誉。多次获得中国社会科学院优秀对策信息一、二、三等奖。担任中国社会学会技术社会学、企业社会责任专委会副主任,《科学·经济·社会》编委等。曾任第十三届全国青联委员、《智能社会研究》首届编委会副主任、中国人工智能学会社会计算与社会智能专委会副主任。
前言
第一章 算法与社会建构:当技术遇上人间烟火
第一节 算法的出生地:谁在塑造它的性格?
(一)数据的社会滤镜:算法吃着数据粮食
(二)程序员的文化调味:码农也有自己的偏好
(三)算法的演化:商业逻辑与社会逻辑的交融
第二节 算法的人间历练:用户如何和它斗智斗勇?
(一)用户的生存智慧:摸透算法脾气,让内容被看见
(二)人机默契养成:用户和算法逐渐形成心照不宣的配合
第三节 算法的合规游戏:规则与变通的博弈
(一)满足合规,健康发展:满足监管,留住用户
(二)全球化下的本土化生存:在不同地区,算法学会了入乡随俗
第四节 算法的社会投影:社会分化的数字分身?
(一)推荐系统的自我复制:被圈禁还是一同打造的壁垒?
(二)传统社会的数字映射:线下习惯的线上延续
第五节 算法的未来:技术愿景的多元叙事
(一)乌托邦 vs 现实:理想很美好,落地需权衡
(二)草根的力量:普通用户也能影响算法进化
(三)开放化的挑战:让用户参与规则制定,但执行不易
第二章 解码算法社会:对其的认识与治理
第一节 算法的潜移默化悄然改写人类生活
(一)算法润物细无声
(二)揭开算法的神秘面纱:让算法不再遥远
第二节 算法社会生存手册
(一)数字化:从网上到网中
(二)数字分身:数字空间与社会空间的双重存在
(三)算法机制:自动运转的规则
(四)算法博弈:进阶版猫鼠游戏
第三节 巧用算法规则,开辟女性主动权
(一)数字平台上的反向测试和为我所用
(二)在数字劳动的夹缝中点亮女性价值
第四节 算法的双面人生
(一)算法的高光时刻:让世界更聪明
(二)算法的阴影:当便利变成枷锁
第五节 破局之道:数字浪潮下的中流击水
(一)技术靶向药研发更公平、透明的算法,加强算法审计
(二)政策疫苗规范算法应用,保护个人权益
(三)教育抗体提高公众算法素养
(四)未来展望构建以人为本的算法社会
第三章 算法时代的文化展演:当代码编织文化舞台
第一节 算法的文化舞台:台上、台下与舞台本身
(一)再搭戏台:算法如何重构文化展演的场域规则
(二)同台唱戏:行动者的协同展演
第二节 算法的文化生产:全民共创而非专业造神
(一)神从何来?理解造神背后的人群动力学
(二)流量的潮汐现象:算法世界的自然规律
(三)造神叙事与全民狂欢:人群的心理调和
第三节 算法的文化互动:寻找赛博世界里的另一个我
(一)观众席的单层玻璃:茧房、谏房与荐房
(二)自我社会的到来:用脚投票的观众
第四节 从使用者到创造者
(一)在场的力量:女性参与算法生产的意义
(二)全方位变革:女性视角下的算法审查
(三)重新定义:女性视角下的算法世界
第五节 算法的文化规则:规律就在社会中
(一)卖座的市场法则:向人性再走近一步
(二)作为群体心理联结器的算法
第六节 余论:算法的物质特性当人类成为策展人
第四章 算法时代的数字江湖:治理面面观
第一节 算法的责任江湖:平台的多维责任风险
(一)算法准确性迷局
(二)公平性擂台
(三)黑箱攻防战
第二节 负责任的算法武林:懂法讲德、可理解与可问责三件套
(一)懂法讲德的算法:需要先体检
(二)更好懂的算法:需要说人话
(三)可问责的算法:需要明晰的代理人
第三节 平台的自我修炼:从立flag到真功夫
(一)算法治理的心法升级
(二)算法的善恶秤
(三)用户参与的算法治理
(四)让人类留在算法的回路中
第四节 从算法向善到社会向暖:平台的温度赋能之路
(一)算法促进社会包容,守护特殊群体权益
(二)算法扎根生产生活,持续释放创新活力
(三)算法与人文协同进化,助力数字文化永不褪色
第五节 从个体突围走向社会团结
(一)自上而下的数字团结和行动
(二)草根社群和集体智慧
第六节 算法江湖的兵器谱沉思录