我们生活在算法的时代。我们去哪个学校上学，是否能够获得车贷、需要为健康保险支付多少钱，这些对我们的生活有着重大影响的决定越来越由不得人类自己，而是被各种数学模型所操控。从理论上来说，模型可以更好地促进公平，因为每个人适用于同等的规则，不存在偏袒。

但凯西?奥尼尔这本迫切而且必要的书却告诉我们，事实刚好相反。如今，被广泛使用的算法模型，即使其本身充斥着错误，也依旧不受管束、不被质疑。其中，“强化歧视”的问题特别值得反思：如果一个穷学生因为被借贷模型认定为风险过高（仅仅是根据该学生所生活的街区就得出此判断）而贷不了款，那么接下来，他就会被剥夺能够帮他摆脱贫困的接受优质教育机会，继而陷入一系列的恶性循环。

通过追踪一个人的生命轨迹，凯西?奥尼尔试图在书中揭露数学杀伤性武器对塑造个人和社会未来的影响。这些数学杀伤性武器给教师和学生评分，筛选简历，批准贷款或拒绝贷款，评估员工，甚至监督我们的健康状况，因此凯西?奥尼尔呼吁建模者，要对自己的算法承担更多责任，并且呼吁政策制定者对模型的使用进行监督管理。她指出，对模型的掌控最终取决于我们自己。这本重要的书迫使我们直面问题，揭示真理，要求改变。

大学排名和身体质量指数（BMI）竟然是一场骗局？

? 在数据经济时代，我们不仅是数据巨头的用户，也成为它们的商品？

? 为什么说“一般人公式”会带来更多的间接损害与不公？

? 数据安全和数据正义该如何维护？

未来20年，算法和大数据将席卷世界，接管我们的生活、社会和经济。我们生活中的很多方面都将落入自动化的数据分析之下。确保算法和大数据的公平性将是一项重大的任务，数据伦理的价值和意义将不断凸显出来。在这本书的作者凯西?奥尼尔看来，黑盒里，大数据的规模、伤害和隐秘共存，她在书中引用了大量发生在美国当下的、基于大数据和算法的、改变个人生活的案例，并对影响这些城市生活经验的算法做了特别的观察和研究。作者认为，数据和算法的关系就像枪械和军火，数据没有价值观，是中立的，但来自人类行为的输入，难免隐含偏向，而算法创造的数据又对人类行为产生反作用，从而导致更多的不公。凯西在书中指出：算法模型一旦运转，执法行为就会增多，产生的新数据又会进一步证明加强执法的必要性。形象地说，就是哪里“前科”越多，哪里就越受算法“关照”，最终形成一个失真甚至有害的回环。因此，建模者应该对自己的算法承担更多责任，政策制定者要对模型的使用进行管理，让更多的人受益，维护社会的公平与民主。

我们生活在算法的时代。我们去哪个学校上学，是否能够获得车贷、需要为健康保险支付多少钱，这些对我们的生活有着重大影响的决定越来越由不得人类自己，而是被各种数学模型所操控。从理论上来说，模型可以更好地促进公平，因为每个人适用于同等的规则，不存在偏袒。

但凯西?奥尼尔这本迫切而且必要的书却告诉我们，事实刚好相反。如今，被广泛使用的算法模型，即使其本身充斥着错误，也依旧不受管束、不被质疑。其中，“强化歧视”的问题特别值得反思：如果一个穷学生因为被借贷模型认定为风险过高（仅仅是根据该学生所生活的街区就得出此判断）而贷不了款，那么接下来，他就会被剥夺能够帮他摆脱贫困的接受优质教育机会，继而陷入一系列的恶性循环。

通过追踪一个人的生命轨迹，凯西?奥尼尔试图在书中揭露数学杀伤性武器对塑造个人和社会未来的影响。这些数学杀伤性武器给教师和学生评分，筛选简历，批准贷款或拒绝贷款，评估员工，甚至监督我们的健康状况，因此凯西?奥尼尔呼吁建模者，要对自己的算法承担更多责任，并且呼吁政策制定者对模型的使用进行监督管理。她指出，对模型的掌控最终取决于我们自己。这本重要的书迫使我们直面问题，揭示真理，要求改变。

目录

引文

第一章 盲点炸弹

不透明、规模化和毁灭性

第二章 操纵与恐吓

弹震症患者的醒悟

第三章 恶意循环

排名模型的焦虑与特权

第四章 数据经济

掠夺式广告的赢家

第五章 效率权衡与逻辑漏洞

大数据时代的正义

第六章 筛选

颅相学的偏见强化

第七章 反馈

辛普森悖论的噪声

第八章 替代变量和间接损害

信用数据的陷阱

第九章 “一般人”公式

沉溺与歧视

第十章 正面的力量

微目标的出发点

结束语

注释

索引