文 | 前方智能 梟梟

AI並不那麼安全：黑客攻破人臉識別系統

2017年10月24日，在上海GeekPwn2017國際安全極客大賽上，一名黑客通過利用人臉識別設備本身存在的漏洞，僅用時兩分半鐘，就成功實現了用任意人臉通過門禁系統。

這名黑客還是名女黑客，她畢業於浙江大學計算機專業，名為 “tyy”。 “tyy”事後表示，人臉識別系統並非萬無一失，牢不可破，攻擊者利用漏洞，侵入系統，直接修改設備中的人臉信息，實現用任意人臉來“矇騙”人臉識別系統，打開門禁。

“tyy”

如今“刷臉”已經慢慢成為一種新的安全認證方式滲入到我們的生活中，吃肯德基可以刷臉支付，在機場裡刷臉識別取代人工識別，進公司可以刷臉打卡，回家可以刷臉進門... 人臉識別技術的應用場景越來越廣了。

但是我們在享受高科技給我們帶來便利的同時，當中的隱患也不得不擔憂。比如在“刷臉支付”時，人臉數據在傳輸過程中，可能會受到黑客、病毒等攻擊。另外，人臉信息在系統後臺服務器解析過程中，解析結果同樣可以被篡改盜，最後可能會導致支付上的出錯或錢財被不法分子所盜取。

刷臉支付

其實不管是人臉、指紋、聲音還是虹膜，這些人類獨一無二的生物特徵都不適合作為遠程身份驗證的安全密鑰，因為它們太容易被仿造了。因為對於計算機而言，這些特徵就是一串0和1組成的數字，是可以被攻破與複製的。

這並不是“tyy”第一次公開挑戰AI系統的安全，在早前5月的GeekPwn年中賽上，她就指出過四款共享單車品牌的高危漏洞。

當然這是個例，不代表所有的人工智能系統都存在漏洞，都不安全，但是“tyy”通過充當“壞人”的角色警醒了我們：AI並非完全安全, AI安全已然是不可忽視的話題。

對此，智能君心裡不禁發問：AI時代，誰給安全感我？

人工智能時代的防守：AI安全佈局

隨著人工智能的日益發展，越來越多的人工智能系統應用在我們的工作生活中，比如網絡金融的智能借貸系統；也有越來越多的人工智能產品滲透入我們的生活裡，比如智能音箱、家庭機器人等...這些人工智能應用很多都需要在數據的收集、分析與處理下才得以實現。

但凡事都有兩面性，當一個人工智能系統裡的數據越多，數據威脅就越大，因為數據發生洩漏、更改、丟失等的可能性將會增加。數據幫助了人工智能的同時也威脅到了人工智能，如何保護好數據，提高人工智能安全性成了AI發展路上重要的一環。

當然這點，聰明巨頭們都是看得到的，而他們對AI安全的重視也可以從各種行動中尋找得到蹤跡。

比如騰訊。

騰訊雲：AI安全佈局

我們來看看騰訊雲具體的AI安全佈局：

1、AI安全能力矩陣：智能身份鑑定、威脅情報分析、異常流量檢測、網絡攻擊溯源、人機行為識別、惡意圖片識別、垃圾文本檢測。

2、AI安全產品矩陣：業務安全（天御）、主機安全（雲鏡）、數據安全（數盾）、移動安全（樂固）、賬號安全（祝融）、網站與流量安全、內容安全與風控安全。

3、AI 安全引擎：基於大規模圖挖掘去不斷地分析提取不良帳號、惡意 IP 和黑產設備，進而收集各類惡意和攻擊，最終形成 AI 模型的樣本。

在未來，雲的趨勢肯定是越來越開放，而越開放的同時，安全顯得越重要。可以說，安全是雲的基石，所以騰訊對雲安全的眾多佈局不僅僅對現在有著重要的影響，對未來的戰略也具有非常重大的意義。

說到騰訊如此重視AI安全，重視數據安全，智能君想起了之前騰訊與華為就用戶數據安全問題鬧的一場“數據之爭”。

事件的主角正是採用了人工智能智慧系統——Magic Live OS的榮耀Magic。

華為榮耀Magic：用戶隱私保護措施

華為榮耀Magic是華為推出的第一部人工智能手機，運行的是人工智能系統Magic Live，這個系統可以根據微信聊天內容加載地址、天氣、時間等信息，很智能。

但就是因為這樣一個智能的服務功能惹怒了騰訊。

騰訊認為華為在侵犯用戶的隱私安全，認為華為榮耀Magic獲取的是騰訊上面的數據。

面對騰訊的指責，華為回應表示：用戶的數據是屬於用戶的，既不屬於騰訊，也不屬於華為，且華為在使用的時候是通過用戶授權後才對相關數據進行收集的。

雙方各執己見，各說各的理。而對於華為榮耀Magic手機用戶來說，更關心的是自己的隱私安全真的會受到威脅嗎？

對於這點，據業內人士表示，榮耀Magic在AI技術上的用戶隱私保護措施其實並不少。

首先，Magic Live引擎需要在用戶授權情況下才可以得到用戶的隱私信息，其中的信息並不對第三方開放，所有用戶的數據也只在本地處理，這些數據並不會上傳到雲端。

其次，華為基於互聯網海量的數據，在雲端對AI引擎和算法進行不斷地訓練與優化，並不依賴於在線用戶的數據。其所有的規則都是通用規則，並不涉及用戶的個人數據，即在用戶使用過程中，也只是識別出用戶在衣食住行等方面的意圖，不會觸碰用戶金融、個人隱私等信息。

此外，榮耀Magic還擁有海思芯片內置SecureOS和防ROOT入侵檢測功能，可以更好的保護用戶數據安全。

現在各大廠商紛紛入局人工智能手機，今年蘋果就推出搭載人工智能芯片A11、使用人臉識別開鎖的iPhone X。而對於手機來說，越智能，機器越是自動獲取數據，往往意味著安全隱患越大，所以用戶數據安全問題更是人工智能手機發展過程中不可忽視的重要一環。

當然不止騰訊與華為在AI安全上有所行動，百度、阿里、滴滴出行等公司也有所佈局，因為大家都明白：在AI時代，如果防守都不行，談何進攻？

創業新機遇：一個月內30億資金湧入AI安全領域

危機，有危才有機。

AI安全出漏洞，有人看到是危，紛紛出動作進行自我安全保護；但有人看到的是機，AI安全市場就是新的創業機遇。據《財富》雜誌的問卷調查顯示，AI和網絡安全技術的變革，是當今美國500強CEO們最擔心的。

目前在AI加持下的安全話題正在升溫，以人工智能驅動的網絡安全公司也受到了資本的青睞。據報道，僅今年6月份就有總額30億元的投資流向安全創業領域，單是微軟今年已經連續收購了3家以色列網絡安全公司。

而據CB Insights的研究數據，我們可以大體看看近幾年AI安全領域的發展狀況。 基於AI的網絡安全領域投資數量在2015年增長了53%，在2016年保持穩定，其中2016的高額融資包括StackPath的1.8億美元融資和Cylance的1億美元D輪融資，而據2017上半年的投資情況分析，2017年投資數量將增長32%。

同時，CBInsights還梳理了80多家使用AI技術的非上市網絡安全公司，其中有兩隻估值10億美元以上的“獨角獸”，分別是自動化端點防護公司Tanium 和用AI預測網絡攻擊的公司Cylance。

經調查，在這80多家AI安全公司中，他們的業務方向主要包括有反欺詐與身份管理、預測智能、行為分析/異常檢測、安全自動化等，其中反欺詐和身份管理是最大的細分領域，行為分析/異常檢測是第二大細分領域，預測智能排在第三位。

這些都是目前AI安全的熱門領域，當中不乏成功的企業，但可以發現在AI安全上面，國外發展得更早且技術更完善，國內的創業者可以以此作參考。

反欺詐與身份管理

反欺詐和身份管理主要是通過識別行騙者來保證在線交易的安全性。

這個領域有一個典型的初創企業是Feedzai，它是一個葡萄牙企業，2011年成立，Data Collective和Citi Ventures都是其投資人。

而就在不久前，Feedzai宣佈完成5000萬美元C輪融資，投資人未具名，另獲得Sapphire Ventures的額外投資。

行為分析/異常檢測

該領域的公司使企業能夠保護自己的數據免受外部和內部的攻擊。他們提供行為生物識別系統，通過用戶的行為創建數字指紋，並使用異常檢測來確保IT組織、電子商務等的安全性。

這個領域典型的初創企業是DarkTrace，它於2013年成立，先後獲得過軟銀與三星的投資。最近一次融資是在2016年7月，獲得6400萬美元C輪融資，領投方是全球知名投資公司KKR，由Mike Lynch創立的Invoke Capita風投也參與了本輪融資。

現在DarkTrace的融資金額已經超過了4億美元，據Mike Lynch透露，這是一次典型的“成長輪”融資，一方面將支持Darktrace進行產品研發，另一方面也將幫助該公司進行全球化擴張。

預測智能領域

該領域內初創企業提供的產品能夠解析各種關於網絡活動的數據資料以及組織網絡中的行為數據，並提供可操作的信息，以幫助分析師阻止即將發生的攻擊。

這個領域的典型公司就是前面所提到的獨角獸之一——美國的Cylance，它於2012年成立，是世界上第一家用人工智能，機器學習來維護網絡安全的公司。

其創始人Stuart McClure會從事安全領域的創業，還有一個被業內人士所熟知的故事。

1989年，Stuart McClure在一起導致9人遇難的空難中死裡逃生。事後的調查發現，起因是波音747的鎖緊機構有問題，波音是知道這個缺陷的，但是之前卻忽視了。此事讓McClure想到：許多安全攻擊都是由於已知的薄弱環節導致的。

Stuart McClure

Cylance先後獲得了包括In-Q-Tel、Citi Ventures、DFJ等在內的著名風投機構和CVC的投資。最近一次融資在2016年6月，完成了1億美元的D輪融資。

至此，Cylance的總融資額已達1.77億美元，公司估值達10億美元。

安全自動化

這個領域裡，有另一家獨角獸公司——美國的Tanium

Orion Hindawi父子

值得一提的是，Tanium在2014年就獲得了來自硅谷著名風投安德森•霍洛維茨基金的9000萬美元注資，當時公司估值已經高達9億美元！接著，在2015年3月，再次獲得了安德森•霍洛維茨基金的5200萬美元

在安全自動化方面，Tanium將基於人工智能的自然語言處理技術與端點保護技術大規模地結合在一起，幫助網絡安全和IT運營團隊用簡單的自然語言瞭解企業中每個端點的狀態，自動檢索當前和歷史狀態數據，並在幾秒鐘時間裡執行變更。

除了以上說的四個熱門領域，還有網絡安全風險管理、應用安全、物聯網安全、欺騙反制等領域也是眾多AI安全創業者涉及的領域。

結語

我們可以發現微軟、亞馬遜等科技巨頭開始收購基於機器學習解決方案的AI安全初創企業，還有傳統的大型網絡安全公司甚至是美國的FBI都開始利用AI技術來加強安全防禦能力及處理數據的能力。

在全球這樣的趨勢下，整個AI安全市場前景是可觀的，尤其是國內，有較大的發展空間。

可以預見未來AI將在實時監控人類行為方面發揮重要作用，同時AI安全技術也會越發厲害，但隨著AI安全防禦越來越強大，使用人工智能手段的攻擊也將會越發壯大，這兩者是相互競爭、相互促進的關係。

最後用AI安全初創企業DarkTrace主管Sanjay Aurora 說的一段話來作為結束：

“你可以看一看如今的網絡安全形勢，傳統方法已經不可能奏效了。對抗這些威脅的唯一方式是人工智能和機器學習。

我們很高興實現了純粹的、無監督的機器學習，以及對員工行為變化的監測。這是我們的秘密武器——永遠在進化和學習中。”

——————————————

閱讀更多 前方智能 的文章

關鍵字: 黑客 人臉識別 網絡安全