文章：Why AI Leads Us to Think Less, Act Impulsively
編譯：Skye
自從MIT的教授 Bernhardt Trout 把工程師倫理課改為聚焦於人工智能的倫理，修課的從2009開始每個學期都會超過150人。當深度學習、神經網絡成為人們研究的中心“人們開始越來越關心AI，特別是未來的發展。”Trout說。
一個關鍵的變化，根據Trout的說法是：“這些人工智能促使我們越來越少去思考，越來越一些或對或錯的映像，而不基於一些信息然後我們自己做出決定。通常我們在得到一個答案後，就不再關注了。而現在各種算法促這種心理越發嚴重”
這種對算法的盲目信任有很多可能產生負面影響。例如，當你開始相信你在Facebook新聞Feed中看到的一切，它是由人工智能算法驅動的，你最終只會看到證實你觀點和偏見的文章，你可能會對相反的觀點變得不那麼寬容。
在其他平臺，內容推薦算法會在無意間重塑你的認識，並將你慢慢應導向一個特定的方向。然而在一些領域這中算法造成的盲目信任會造成很大的後果，像是金融體系的借貸，犯罪審理等。“我們需要記得這些都是算法，這是一個很好的論據反對認為人類生活中的一切都可以簡化為數學，” Trout警告說。
Ai為什麼可以給出決策？這其中又有什麼問題？
一個如今面臨的很重要的問題就是AI的可解釋性。深度學習從數據和非常複雜的工作中學習和發展出的邏輯，可能是模型設計者都復發理解的黑箱。和可能會造成很嚴重的麻煩，特別是涉及到一些倫理問題。
“用深度學習和神經網絡等方法追蹤決策和分析變得更加困難。”Element AI的Marc Etienne Ouimet說：“當機器學習給出決策和信息的時候，如何去理解以及解釋背後的邏輯的能力，在現在的環境中已經變得越來越重要了。你需要知道它是如何影響結果的，否則你無法有效地為濫用人工智能系統造成的損害尋求補救。”
這種缺乏透明度也使得該算法中很難發現和解決道德問題。例如，在一個案例中，一個用於預測累犯的人工智能算法默默地使用郵政編碼作為確定被告再次犯罪的可能性的一個因素，並最終對黑人被告產生偏見，即使程序員已經從他們的數據集中刪除了種族信息。
在另一個案例是，招聘算法會對簡歷中包含“女性”一詞的求職者有偏見。最近，蘋果公司的新信用卡被發現對女性有偏見，因為它使用的人工智能算法，給女性提供的信用比男性低20倍。
在這些情況下，開發人員已經竭盡全力從數據中刪除任何可能導致算法偏差的特徵。但人工智能經常發現錯綜複雜的關聯，間接暗示了性別和種族之類的事情。如果沒有任何方法來研究這些算法，找到這些有問題的相關性就成了一個挑戰。
硅谷的回應：關心，但更愛投資回報率
對人工智能倫理越來越感興趣的另一個因素是商業部門的積極參與。
特魯特教授說：“雖然深度學習和神經網絡的發展是人們日益關注人工智能倫理的一部分，但另一個主要貢獻者是……科技界的領袖們提出了這個問題，並試圖積極向更廣泛的公眾公佈他們的觀點。”。
比爾蓋茨（Bill Gates）和埃隆•馬斯克（Elon Musk）等高管，以及斯圖爾特•羅素（Stuart Russell）和已故斯蒂芬•霍金（Stephen Hawking）等科學家，都曾就人工智能可能帶來的可怕的意外後果發出過警告。而像微軟和谷歌這樣的科技巨頭也被迫解釋他們對人工智能的態度，並制定道德準則，特別是在把他們的技術賣給政府機構時。
“道德準則是一個良好的開端，但在整個公司實施這些準則才是最重要的。從基礎/應用研究到產品設計、開發和部署，每個團隊都必須瞭解這些準則是如何應用於他們的功能的，”Element AI的Ouimet說。
Ouimet還強調，公司需要與立法者積極合作。”對於擁有技術專長的企業來說，與監管機構真誠合作，幫助他們瞭解技術帶來的風險和本質，這一點非常重要。”。
Element AI最近與洛克菲勒和Mozilla基金會合作，就人權框架在人工智能治理中的作用向政府和公司提出一份建議清單。“此次合作的重點是推進對數據信託的法律、治理和技術組成部分的研究，AI和Mozilla基金都認為數據信託作為安全和道德的數據共享機制，具有巨大的潛力，正如許多政府迄今所設想的那樣。”Ouimet說。
但Trout 教授對科技公司參與人工智能倫理的看法略有不同。”歸根結底，他們這麼做很大程度上是出於商業原因。他們想讓員工開心。這就是谷歌決定不與國防部合作的原因。他們想讓他們的客戶和政府高興，他們想提高他們的底線，”他說。“我沒有看到這些公司真正提倡深思熟慮過倫理道德問題。他們有資源，有能力，不應該是現在這樣。我覺得這很遺憾。”
原文鏈接：https://www.pcmag.com/opinions/why-ai-leads-us-to-think-less-act-impulsively
歡迎關注【數據小鹽罐兒】，下次再來呀
閱讀更多 數據小鹽罐兒 的文章
