科技:新算法限制了機器學習中的偏差

導語:機器學習 一種人工智能的形式,基於計算機可以從數據中學習並在人類的幫助下做出決定的想法有可能以無數種方式改善我們的生活。從自動駕駛汽車到可以自我閱讀的乳房X線照片掃描,機器學習正在改變現代生活。

科技:新算法限制了機器學習中的偏差


很容易假設使用算法進行決策可以消除人為偏差。但研究人員發現機器學習可以在某些情況下產生不公平的決定,例如僱用某人從事某項工作。例如,如果插入算法的數據表明男性比女性更有生產力,那麼機器很可能“學習”這種差異並且有利於男性候選人而不是女性候選人,而忽略了輸入的偏見。管理人員可能無法發現機器的歧視,認為自動決策本質上是中立的,導致不公平的招聘行為。

科技:新算法限制了機器學習中的偏差


在第35屆機器學習會議論文集上發表的新論文中,SFI博士後研究員Hajime Shimao和東京大學研究員Junpei Komiyama提供了一種確保機器學習公平性的方法。他們設計了一種算法,強制公平約束,以防止偏見。

科技:新算法限制了機器學習中的偏差


“所以說黑白客戶的信用卡批准率不能超過20%。通過這種約束,我們的算法可以採取這種約束,並給出滿足約束的最佳預測,”Shimao說。“如果你想要20%的差異,請告訴我們的機器,我們的機器可以滿足這個限制。”

科技:新算法限制了機器學習中的偏差


Komiyama補充說,這種精確校準約束的能力使公司能夠確保遵守聯邦的不歧視法律。Komiyama說,該團隊的算法“使我們能夠嚴格控制這些法律背景下所要求的公平程度”。

科技:新算法限制了機器學習中的偏差


Shimao和Komiyama在研究中指出,糾正偏見涉及權衡。因為約束可以影響機器讀取數據的其他方面,它可以犧牲一些機器的預測能力。

科技:新算法限制了機器學習中的偏差


結語:Shimao表示,他希望企業能夠使用該算法來幫助消除可能潛藏在機器學習計劃中的隱藏歧視。“我們希望能夠使用它,以便在必要時防止機器受到歧視。”


分享到:


相關文章: