在2018年末，Google決定取消“智能撰寫”（Smart Compose）功能，將完全移除所有智能“撰寫功能”中帶性別的人稱代名詞， Google擔心該功能帶有偏見，谷歌研究科學家輸入了“下週我要見一位投資者”，“智能撰寫”提出了後續的問題：“您想見他嗎？” 但是該投資者是女性。
偏見是AI的致命弱點。DataRobot的研究發現，在美國和英國，將近一半（42％）的AI專業人士“非常'”或“極其”擔心AI偏見。AI可以在最意想不到的地方出現，沒有系統是免疫的。隨著AI在工作場所中深入應用，需要注意那些可能會持續存在偏見的地方和平臺。
招聘工具
人工智能在招聘中的應用有望將偏見最小化。根據領英(LinkedIn)的研究，43%的招聘人員和招聘經理表示，人工智能的一個關鍵好處是它有消除人類偏見的潛力。然而，承諾將偏見最小化的人工智能工具，也可能在招聘過程中注入偏見。以谷歌的招聘廣告算法為例，更多向男性顯示高薪職位。此外，許多人工智能招聘工具依賴於面部識別技術。研究表明，即使是最優秀的面部識別系統，識別黑人面孔的錯誤率也是白人的5到10倍。
雖然從人工智能招聘工具中消除偏見存在困難，但我們可以做很多力所能及的事情。首先要進行監督，負責構建、實現和使用招聘工具的團隊必須是多樣化的，否則他們自己的偏見將會融入到工具中。其次，必須仔細檢查數據，很多公司依賴人工智能招聘工具，這些工具的使用主要基於歷史數據。由於許多公司對某些類別的個人存在歷史偏好(例如，白人男性和頂尖大學的畢業生)，這些人也在基於歷史數據訓練的算法中佔有優勢。必須檢查類似的情況並在其被內置到AI工具前消除掉。最後，所有人工智能招聘工具都應該接受內部和外部審計。HireVue等公司致力於參與內部和外部審計，以查明其工具中可能存在的偏見。
協作工具
工作中協作工具(如Slack)已經無處不在。最近，一些公司已經開始開發和發佈基於人工智能的工具，幫助經理和領導理解在電子郵件、Slack和類似平臺上溝通的內容。例如，總部位於東京的Vibe就是這樣一家公司，利用人工智能來評估員工的滿意度，Vibe將員工的狀態分為五種情緒:快樂、憤怒、不滿、失望和壓力，通過掃描信息中的關鍵字和表情符號來描述員工的心理狀態。
問題是，許多人工智能工具並沒有考慮到個體具有不同的情感和其他傾向這一事實。例如，男性和女性在辦公協作工具上的表現不同。Quartz的記者Leah Fessler指出，“貴公司的Slack可能帶有性別歧視”。她解釋說，男性傾向於主導Slack公共頻道的對話，而女性更傾向於使用支持性和友好性的內容。
Slack本身越來越傾向於人工智能。 特別是，它創建了一個“工作圖譜”來分析用戶之間的相互關係。“工作圖”的概念並不新鮮。 谷歌已經建立了自己的“知識圖譜”，而Facebook則建立了自己的“社會圖譜”。“工作圖譜”使Slack能夠在平臺內更快，更準確地搜索，同時還讓用戶識別最重要的信息。據《麻省理工學院技術評論》（MIT Technology Review）報道，工作圖譜“旨在成為一名組織嚴密、多任務處理能力的助理，知道正在發生的一切，只向你簡要介紹最重要的事情。”
鑑於普通用戶每天發送70條消息，因此許多企業將依靠AI來更好地瞭解員工在Slack和類似協作工具上的狀態。我們必須保持警惕，瞭解如何訓練AI工具，避免產生偏見。
銷售工具
人工智能工具正在迅速滲透到銷售組織中，最有前途的應用場景之一是線索評分。根據Gleanster研究，一半的潛在客戶有意向，但尚未準備好購買。一些AI工具允許公司挖掘他們與客戶聯繫的各種渠道，提取人口統計、公司和技術信息，並最終確定銷售線索的質量。這些工具甚至可以指出消費者的情緒，以預測他們的購買傾向。
就像所有的人工智能工具一樣，理解基於人工智能的銷售工具模型是如何構建的非常重要。大多數工具是要發現“容易實現的目標”——最容易成單和擁有最大預算的線索。不過這些工具很少能考慮全面。例如，他們通常不會考慮哪些線索可能具有最高的終身價值，或哪些可能給予最高的NPS（淨推薦值）。
另一個問題是，許多公司把潛在客戶的產生與潛在客戶評分混為一談。他們假設符合他們的理想客戶特徵的就是潛在客戶，不考慮領導者的意願，比如領導者是否準備現在就購買。第三個問題是，AI驅動的銷售工具常常受到歷史銷售信息的影響，會優先考慮那些看起來像過去客戶的客戶，忽略了市場動態的變化，也沒有考慮到那些過去沒有購買過產品的客戶，在未來可能會隨著擴大服務範圍和增加廣告而成為重要客戶。
根據《哈佛商業評論》(Harvard Business Review)，使用人工智能進行銷售的公司能夠將領先優勢提高50%。人工智能有助於消除猜測，並使銷售代表能夠把時間集中在與客戶建立關係上。發揮人工智能工具的關鍵是認識到偏見存在的地方，並採取措施將其最小化。
人工智能被稱為自蒸汽機以來最偉大的創新。隨著人工智能成為我們工作場所不可或缺的一部分，我們必須要審視AI工具潛在問題，找出可能存在偏見的地方，讓人工智能更好地為我們所用。
閱讀更多 IT168企業級 的文章
