“预测性警务”（被列为“时代周刊”2011 年度50 项最佳发明之一）是此类反馈循环的早期示例。这个想法希望使用机器学习将警察资源分配到可能的犯罪点。因为相信机器学习的客观性，美国几个州实行了这种警务方式。然而，很多人注意到系统正在从以前的数据中学习。如果警方本来在黑人社区的巡逻就超过白人社区，这将导致更多的黑人被捕; 该系统然后进一步学习到，黑人社区更可能发生逮捕，从而加强了原来的人的偏见。这样的系统在实际发生犯罪的地方，并没有导致最佳的监管。

　　结论

　　在科学层面上，机器学习可以给我们一个前所未有的自然和人类行为的窗口，让我们内省和系统地分析以前在直觉或群众智慧领域使用的模式。通过这个窗口， Wu 和 Zhang 的研究结果显示了令人尴尬的真相，揭示出我们一直以来是如何判断人的。

　　在实践层面上，机器学习技术将越来越多地成为我们生活的一部分，像许多强大的工具一样，它们可以而且常常用于良好的应用——包括基于数据更快更公平地做出判断。

　　机器学习也可能被误用，而这往往是无意的。这种误用往往是源于对技术问题狭隘的偏执，包括：

缺乏对训练数据偏见来源的洞察力;

缺乏对该领域现有研究的仔细审查，特别是在机器学习领域之外;

不考虑可以产生测量相关性的各种因果关系;

不考虑机器学习系统应如何被实际使用，以及在实践中可能有什么社会影响。

　　Wu 和 Zhang 的论文体现了上述所有陷阱。特别不幸的是，他们测量出的相关性——假设它在更严格的实验条件下仍然很明显——实际上可能是研究机构揭示刑事判决普遍偏见的重要补充。基于表面特征的深度学习，显然不是应该加快刑事司法的工具。这样的做法，比如Faception，将会使不公正永久化。

　　致谢和注释

　　致谢——

　　Charina Choi,谷歌

　　JasonFriedenfelds, 谷歌

　　Tobias Weyand,谷歌

　　Tim Freeman,谷歌

　　Alison Lentz,谷歌

　　Jac de Haan,谷歌

　　MeredithWhittaker, 谷歌

　　Kathryn Hume, FastForward 实验室

　　注释

　　[1]用于测量头骨轮廓的颅形描记器是专门针对这种应用开发的许多仪器之一。

　　[2]大约在同一时间，一篇关于使用深度学习预测脸部的第一印象的论文，正确地确定了他们正在测量的是主观印象，而不是客观的特征，该论文受到的关注较少。

　　[3]这种分层结构在大脑的视觉皮质上松散地建模，每个参数对应于突触的强度，或者从一个神经元到另一个神经元的电化学连接。

　　[4]许多卷积神经网络，包括 ChronoNet，属于深度学习的类别。 “深”意味着有多层连续的操作（因此有许多参数）。

　　[5]在本文中，性别被模仿为二进制，以基于自我宣称的性别身份为准。

　　[6]公平地说，这篇论文分析的现实世界快照数据库包括一些模糊的图像，还包括背对的人或戴着大太阳镜的人，以及 ID 照片中没有的其他困难案例。

　　[7]这让人联想到荷兰学者彼得·坎佩（1722-89）用来“推断”智力的“面角”（Facial angle）测量。

　　[8]有一些特定的认知障碍会削弱某些人在这项任务中的表现，就像阅读障碍会影响阅读一样。 “脸盲症”可能会影响?2.5％的人口，包括一些令人惊讶的案例，如肖像艺术家 Chuck Close的案例。

　　[9]机器学习在过去几年中取得的巨大成就，是许多研究实验室经过数十年的努力，使得人脸识别能力得到了很大提高。

　　[10]新书《面部的价值：第一印象不可抗拒的影响》”的第一章，包括对面相学历史的更完整的评述。

　　[11]类似的类比思想是“幽默理论”，也起源于希腊，认为血液，痰，黑胆汁和黄胆汁的平衡决定了健康和个性。还有一些仍在使用的英文单词源自这个理论：sanguine（乐观）, phlegmatic（冷静）, bilious（恶心）, choleric（不可理喻）, melancholic（忧郁）。

　　[12]人类的个性“放养”可能意味着什么当然是第二次类比的飞跃。

　　[13]他的方法和他的分析今天都不会通过。他的测量是有选择性的，他的数据集很小，他的样本有偏差。

　　[14]在《人类的由来》中达尔文写道，奴隶制是“巨大的罪恶”，尽管接下来他指出，“有些野蛮人对于动物的残酷行为感到可怕的快乐，人性对他们来说是一种未知的美德。”对达尔文来说，奴隶制的罪恶源于残酷，而不是不平等。

　　[15] Haeckel 有犹太人朋友和同事，是达尔文主义在德国的主要推广者，所以犹太人和英国人都喜欢他的种族层次论也许并不奇怪。

　　[16]在他们的网站上，他们也指出，这些“类型”带有流行的心理描述的色彩——非常类似于古典文献中的类型学，如他们的“Bingo Player”描述的（是的，他们有一个 Bingo Player 检测器）： “具有高精神上限，高度集中，冒险，强大的分析能力。倾向于具有创造力，具有高度的独创性和想象力，高度的保护欲和敏锐的感觉。“

　　[17]例如：对双胞胎的研究发现，阳光照射、吸烟和体重指数（主要由食物和运动习惯决定）显著影响面部老化。

　　[18]“她的得分比第二高出了13％，但她没有获得高级牧马人的头衔，因为只有男人被排名，而女人只是单独列出。”（维基百科）

　　[19]见 The Fatal Shore，第10章，尾注48。

　　[20]暴力犯罪与男子相关度很高。在美国，98％的强奸罪，90％的谋杀案和78％的严重殴打的犯罪者是男人，但只有 57％ 的盗窃罪和 51％ 的贪污罪是男人。加拿大数据类似。这表明非暴力或白领犯罪可能不会有很强的性别相关性。

　　[21]在这个统计中，“黑人”和“白人”都排除了被确定为西班牙/拉丁裔的人口。

　　[22]使用反应时间在简单的分类测试（白人和黑人的脸以及褒义词和贬义词）上测量种族隐含的偏见。它揭示了个体隐含的与种族积极或消极的联系，独立于一个主体有意识的信仰。即使那个人没有自觉或明确的种族主义，一个人带有隐含偏见是非常普遍的;事实上，黑人主体通常也表现出隐含的反黑人偏见。

　　[23]他们的受试者都是中国人，因此“犯罪”和“非犯罪”集合之间的种族、经济和教育差异更为细微。这值得商榷。

　　[24]这个研究，以及第一印象准确性证据的缺乏，也在《面部的价值：第一印象不可抗拒的影响》中被评议：。

转载请注明出处。