正文
让我们看看这对弄清分析中的偏见意味着什么。
成为有辨别力的思考者
我记得一位小学老师对她的学生们说，她希望我们成为“有辨别力的思考者”。区别对待有时是好事。如果某人曾经借钱挥霍，购买自己买不起的昂贵物品，那么不给他贷款对银行和公众都有好处。问题是我们用什么标准来加以区别。
ACM研讨会的与会者们对道德标准进行了一番讨论。分析专业人士是否应该建立某种具体的道德标准来控制分析的使用？或者，专家是否应该以公开透明为目标，让公众了解决策的制定过程，而不建立具体的道德标准？
我认为，最好的做法是坚持被广泛接受的社会标准。例如，在上世纪60年代，美国以宪法第一修正案为依据，禁止民族、种族和宗教歧视。后来，性别和残疾被加入保护行列，然后是性取向（在22个州的管辖范围内），近期则是性别认同（也就是跨性别者和非二元性别者）。1948年的联合国《世界人权宣言》在第二条中呼吁人人平等，“不分种族、肤色、性别、语言、宗教、政治或其他见解、国籍或社会出身、财产、出生或其他身份等任何区别。并且不得因一人所属之国家或领土的政治、法律管辖或者国际地位之不同而有所区别，无论该领土是独立领土、托管领土、非自治领土或者处于其他任何主权受限制的情况之下”。这里的“其他身份”表述模糊，但其余部分相当明确具体。
简而言之，就是由参与公共讨论的政治实体和政策制定者来决定什么可以区别对待，什么不可以。在某些情况下，计算机算法可能会使用种族和性别这样的标准来作出雇佣等决定，哪怕使用这些标准并不合法。
计算领域的一条重要戒律，就是计算机不能改变人类责任。如果人类做某件事情是不合法或不道德的，那么人类创造的计算机程序做这件事情也是不合法或不道德的。但太多的人把计算机程序作为挡箭牌。“我们是在使用计算机分析程序，所以没有关系”，这就是数字版的“我只是按命令行事”。
1976年出版的一本经典论著《计算机能力与人类理性：从判断到计算》（Computer Power and Human Reason: From Judgment To Calculation）也传达了同样的讯息。该书作者约瑟夫·魏泽鲍姆（Joseph Weizenbaum）提出了一条关于人工智能的重要原则。他说，问题不在于计算机能不能够作出事关人类重要活动的决定，而在于它们应不应该作出这样的决定。
因此，我认为，很多法律和政策声明已经明确了我们应该警惕偏见的领域。本文将会逐渐说明，这些政策考量会推动技术方面的决定。
数据科学家凯茜·奥尼尔（Cathy O'Neil）在深受好评的《数学杀伤性武器》（Weapons of Math Destruction）一书中，提出了几个令人信服的观点，包括：
奥尼尔的弥补方案不只是检测偏见，还包括通过一个广泛的社会项目来评估社会的目标，把对抗经济压力的公平性考虑在内，利用算法帮助弱势者，而不是惩罚他们。
透明性的阴暗面
透明性可以说是我们这个时代的战斗口号：让所有人看到你的决策过程！全球已有70个国家加入了开放政府伙伴关系联盟（Open Government Partnership），承诺让公民参与财政预算和法律法规的制定。其中的大多数国家一如往常，继续面对着战争、腐败和其他问题。
但先不要对透明性过于悲观。从很多方面来说，透明性正在提升，这得益于更高的教育水平和新的传播媒体。开源运动大大加强了程序的透明性。开源软件或其他措施能否使预测分析更加公平呢？
利用分析对人进行分类的企业担心，被分析的对象如果了解输入数据的标准，就可以把分析系统玩弄于股掌之上。很多标准涉及到难以改变的重要生活特征，比如收入。但也有很多标准似乎只是更重要特征的简单代表，这就有可能让精明的分析对象弄虚作假。
在以色列电视喜剧《阿拉伯劳工》（Arab Labor）里，阿拉伯人主角沮丧地发现，他经常在检查站被拦下。他问一位以色列朋友，如何避免这种情况。朋友建议他买一辆特定牌子和型号的汽车。阿拉伯人照做了。神奇的是，他开始顺利通过检查站，再也没有受到骚扰。面对预测分析，会有很多人寻找那辆能够让自己度过困境的“好车”。
