导语：机器学习 一种人工智能的形式，基于计算机可以从数据中学习并在人类的帮助下做出决定的想法有可能以无数种方式改善我们的生活。从自动驾驶汽车到可以自我阅读的乳房X线照片扫描，机器学习正在改变现代生活。
很容易假设使用算法进行决策可以消除人为偏差。但研究人员发现机器学习可以在某些情况下产生不公平的决定，例如雇用某人从事某项工作。例如，如果插入算法的数据表明男性比女性更有生产力，那么机器很可能“学习”这种差异并且有利于男性候选人而不是女性候选人，而忽略了输入的偏见。管理人员可能无法发现机器的歧视，认为自动决策本质上是中立的，导致不公平的招聘行为。
在第35届机器学习会议论文集上发表的新论文中，SFI博士后研究员Hajime Shimao和东京大学研究员Junpei Komiyama提供了一种确保机器学习公平性的方法。他们设计了一种算法，强制公平约束，以防止偏见。
“所以说黑白客户的信用卡批准率不能超过20％。通过这种约束，我们的算法可以采取这种约束，并给出满足约束的最佳预测，”Shimao说。“如果你想要20％的差异，请告诉我们的机器，我们的机器可以满足这个限制。”
Komiyama补充说，这种精确校准约束的能力使公司能够确保遵守联邦的不歧视法律。Komiyama说，该团队的算法“使我们能够严格控制这些法律背景下所要求的公平程度”。
Shimao和Komiyama在研究中指出，纠正偏见涉及权衡。因为约束可以影响机器读取数据的其他方面，它可以牺牲一些机器的预测能力。
结语：Shimao表示，他希望企业能够使用该算法来帮助消除可能潜藏在机器学习计划中的隐藏歧视。“我们希望能够使用它，以便在必要时防止机器受到歧视。”
分享到:
閱讀更多 極客辣評 的文章
