人工智能的成長挫折
每個父母都擔心自己的孩子會受到別人的影響，所以會很關注他們的老師是誰？他們正在看什麼電影？他們在玩什麼電子遊戲？他們和合適的人群一起玩嗎？我們仔細檢查這些影響，因為我們知道它們會影響孩子做出的決定，無論是好是壞。正如我們關注誰在教我們的孩子一樣，我們也需要注意誰在教我們的算法。像人類一樣，人工智能系統從其所處的環境中學習，並根據其發展的偏見做出決策。和我們的孩子一樣，我們應該期望我們的模型能夠隨著他們的成長來解釋他們的決定。
算法就像對於我們的孩子來說決定著我們上的大學，是否被錄用以尋找工作，是否有資格獲得貸款以購買房屋，甚至誰入獄以及持續多長時間。與人為決定不同，這些數學模型很少受到質疑。它們只是出現在某人的計算機屏幕上，命運就已確定。在某些情況下，算法的錯誤是顯而易見的，例如當谷歌以90億美元收購蘋果公司，或者微軟的Tay聊天機器人在Twitter上亂髮信息，但通常不是這樣。更隱蔽和普遍的是那些細微的算法錯誤，這些細微的錯誤雖然未被注意到，但卻對人們的生活產生了非常實際的影響。
數據偏差
一旦遇到錯誤的算法，大家的生活就會立即變得更加困難。就像孩子無法入讀一所好學校或找不到一份工作，導致收入減少，生活在更差的社區。這些事實被引入新算法中，所有問題的情況會進一步惡化。毫無疑問，隨著我們越來越多地將決策交給算法，這個問題有可能變得更加嚴重。當務之急是，我們必須開始認真對待人工智能偏差問題，並採取措施通過使我們的系統更加透明，可解釋和可審計來減輕其影響。
人工智能系統中的偏差有兩個主要來源：訓練模型所依據的數據集和模型本身的設計。訓練算法的數據集中的偏差可能很細微，例如，當使用智能手機應用程序監視坑窪並提醒當局與維護人員聯繫時。這可能是有效的方法，但一定會使偏遠地區的貧困人口減少，因為那裡擁有智能手機的人越來越少。在其他情況下，未收集的數據可能會影響結果。分析人士懷疑，當谷歌流感趨勢預測2013年的病例數幾乎是實際數量的兩倍時，就會發生這種情況。似乎已經發生的事情是，媒體報道的增加導致沒有生病的人進行更多的搜索。當人類的偏見延續到AI系統中時，就會產生數據偏見的另一個來源。例如，司法系統中的偏見會影響誰因犯罪被起訴和判刑。如果將這些數據用於預測誰可能犯罪，那麼這些偏見將繼續存在。
在其他情況下，人類被用來標記數據，並可能將輸入偏差引導到系統中。人工智能歧視
這種偏見普遍存在，難以消除。實際上，亞馬遜被迫放棄了由人工智能驅動的招聘工具，因為他們無法消除結果中的性別偏見。他們不公平地偏愛男性，因為他們使用的培訓數據告訴系統，該公司以前僱用的大多數被視為成功的員工都是男性。即使他們消除了對性別的任何特定提及，系統也會將某些單詞出現在男性簡歷中而不是女性簡歷中，這是性別的代理。
偏差的第二個主要來源是決策模型的設計方式。例如，如果根據測驗分數評估老師的能力，則表現的其他方面例如招募有學習差異或情緒問題的孩子將無法註冊，甚至受到不公平的懲罰。在其他情況下，將根據最容易獲取的數據來構建模型，或者根據特定的一組情況對模型進行過擬合，然後將其應用得過於廣泛。克服偏見由於存在多種多樣的偏見，我們認為完全消除甚至根本消除偏見是不現實的。但是，我們可以做的是使我們的AI系統更具可解釋性，可審計性和透明度，可以採取三個實際步驟來減輕偏見的影響。首先，必須對AI系統進行嚴格的人工審查。例如，一份報告中引用的一項研究發現，雖然機器在讀取放射線圖像時有7.5％的錯誤率，而人類有3.5％的錯誤率，但是當人們將工作與機器結合起來時，錯誤率下降了。至0.5％。
數據決定成敗
其次，就像法律要求銀行“瞭解客戶”一樣，構建系統的工程師也需要了解其算法。例如，數據實驗室負責人埃裡克·哈勒曾表示，與幾十年前不同，當他們使用的模型相當簡單時，在AI時代，他的數據科學家需要更加謹慎。過去，只需要保留準確的記錄，這樣，如果犯了一個錯誤，可以回去，找到問題並加以解決。現在，當我們有這麼多模型都由人工智能提供支持時，這並不容易。我們不僅可以下載開源代碼並運行它。我們需要非常深入地瞭解我們算法中的每一行代碼，並能夠向外部利益相關者進行解釋。
第三，人工智能系統以及用於訓練它們的數據源必須透明且可用於審核。歐洲的GDPR之類的立法框架已邁出了一些有希望的第一步，但顯然還需要做更多的工作。我們認為人類在沒有任何監督的情況下做出決定是不可接受的，因此沒有理由在機器做出決定時我們應該接受它。也許最重要的是，我們需要從自動化文化轉變為增強文化。人工智能的效果最好不是用作替代人類並降低成本的魔盒，而是用作創造新價值的力量乘數。
通過使AI更具可解釋性，可審計性和透明度，我們不僅可以使我們的系統更加公平，而且可以使它們更有效，更有用。閱讀更多 Steven博—Coder 的文章
