在構建和使用自主和智能系統時，重要的是要知道它們的行為是可靠的，因為如果出現問題，它們問題將是大規模的。
各種企業組織正在競相實施人工智能，專注於潛在的利益，但不一定是風險。在建立和使用智能系統時，無論是否自治，企業都應該盡其所能確保其可靠運行。否則，這些系統就不可信任。更糟糕的是，意外結果可能會破壞貴公司與股東，合作伙伴，客戶和員工建立的信任。
如果您認為智能系統只是另一種技術，那麼您的IT風險管理策略可能反映了這一點。以下是在關於在自主和智能系統中構建可靠性的需求和重要性需要考慮的幾個要點。
這是一種新的責任形式。傳統上，系統可靠性是通過實際結果與預期結果一致的程度來衡量的。在確定性編程的世界中，給定的輸入應該產生給定的輸出。然而，在概率系統中，結果並非如此。軟件開發人員，IT和業務負責人應該考慮自治和智能系統可以使用和濫用的多種方式，以及系統可以“正確”和“錯誤”的方式。
如果出現問題，誰將對意外後果負責？設計系統的人？編寫算法的人？使用該系統的人？行業團體，律師，技術專家和立法者正在探討這個問責制問題。“隨著任何新的和不斷髮展的事情，所有的制衡措施都沒有到位。例如，對於自動駕駛汽車，你如何根據撞車事故對它進行分析，無論是碰到樹還是傷害乘客還是撞到街上的人？責任討論分為三個部分：設計師，用戶和機器代理 - 即機器對其自主行動的責任。
“現在，我們承認人力機構和組織機構，但我們需要討論機器代理，”現代勞動力是人和機器。組織對兩者的行為負責，因此對業務的最佳利益是高度重視他們正在使用的自主和智能系統的可靠性。
分享到:
閱讀更多 lonelyworld 的文章
