人工智能正在推動一場新的工業革命，其影響範圍小則涉及個人生活，大則影響國家安全，讓人們在期待的同時，也帶著些許忐忑。事實上，當前人工智能的發展狀況與未來學家或科幻電影中作出的設想並不完全一樣。
真實進展到了哪一步
當前，越來越多的行業都在發展人工智能技術，新概念和新算法層出不窮，但人工智能的主要應用領域是圖像識別和語言翻譯，圖像識別領域進展要優於語言翻譯，前者在某些指標上超過了人類水平，但語言翻譯能力還不及人類，這是該技術進展的基本情況。
具體說，人工智能可以做以下四個方面的工作。
第一，數據分類。人工智能可對圖像或聲音等數據進行分類，安防領域中對攝像頭採集數據的處理及醫療影像識別和診斷，這兩個領域發展迅猛，產業前景廣闊。
第二，異常探測。人工智能可幫助發現欺詐性金融交易或新惡意軟件等異常行為，可用於實時監控大規模數據，央行及其他市場金融機構正致力於類似應用。
第三，預測。從海量數據中發現某種規律後，人工智能可基於統計特徵對未來行為作出預測，這在搜索引擎的自動填充、視頻和網購平臺的產品推薦等領域得到廣泛應用，還可用於天氣預報。
第四，優化。人工智能可對複雜的系統和任務進行優化，例如美國“深度思維”公司使用機器學習優化了谷歌數據中心的能源效率，節約了40%用於冷卻的能量，使能效整體提升了15%。
綜上，人工智能確實具有諸多優勢，其反應時間比人類更快，在不少領域和場景下，有優於人類的精確性、可靠性和敏捷性，也比人類更有耐心和警覺性，同時還能獨立於人類進行工作。
應用中不可忽視的弱點
不容忽視的是，當前的人工智能技術也存在弱點，美國智庫“新美國安全中心”最近發佈《人工智能：每個決策者需要知道什麼》報告，提示人工智能的一些弱點可能對國家安全等領域造成巨大影響。
第一，脆弱性。目前的人工智能系統還無法超出場景或語境理解行為，其在下棋或遊戲等有固定規則的範圍內不會暴露出這一弱點，而一旦場景發生變化或這種變化超出一定範圍，人工智能可能就立刻無法“思考”。
第二，不可預測性。用戶無法預測人工智能會做出何種決策，這既是一種優勢，也會帶來風險，因為系統可能會做出不符合設計者初衷的決策。
第三，弱可解釋性。人工智能或許可以幫助人類做出好的決策，但決策理由目前仍然是一個“黑箱”。例如，圖像識別能力可以發現圖片中的校車，但無法解釋哪些圖像特徵讓它作出這種判斷，而在醫學診斷領域，診斷的理由往往是重要的。
第四，安全問題和漏洞。機器會重結果而輕過程，通過找到系統漏洞，實現字面意義上的目標，但其採用的方法不一定是設計者的初衷。例如，網站會推薦一些極端主義視頻，因為刺激性內容可以增加瀏覽時間。再如，網絡安全系統會判斷人是導致破壞性軟件植入的主要原因，於是索性不允許人進入系統。
第六，系統事故。在算法不能共享的對抗性環境中，系統性錯誤很容易發生，導致做出無法估量的決策。比如，在國家安全領域，兩種相互對抗的算法為了獲得優勢會採用某些導致毀滅性後果的行為，尤其在網絡安全和電子戰過程中，對抗性決策會非常迅速，人類幾乎來不及叫停。
第七，人機交互失敗。儘管讓機器提供建議，由人類做最後決策是解決人工智能某些弱點的常用方法，但由於決策者對系統侷限性或系統反饋的認知能力不同，這一問題並不能得到根本解決。2016年特斯拉自動駕駛汽車撞毀事故中，人類操作員就沒能理解系統給出的提示而發生致命性事故，在軍事、邊境安全、交通安全、執法等諸多領域都面臨類似挑戰。
第八，機器學習漏洞可被對手利用。在對抗性過程中，對手還會釋放有毒數據或利用人工智能行為方式的某些漏洞發起攻擊，目前還沒有抵禦這種攻擊的有效辦法。
閱讀更多 數邦客 的文章
