雷鋒網 AI 科技評論按：2018 全球人工智能與機器人峰會（CCF-GAIR）在深圳召開，峰會由中國計算機學會（CCF）主辦，雷鋒網、香港中文大學（深圳）承辦，得到了寶安區政府的大力指導，是國內人工智能和機器人學術界、工業界及投資界三大領域的頂級交流盛會，旨在打造國內人工智能領域最具實力的跨界交流合作平臺。
CCF-GAIR 2018 延續前兩屆的「頂尖」陣容，提供 1 個主會場和 11 個專場（仿生機器人，機器人行業應用，計算機視覺，智能安全，金融科技，智能駕駛，NLP，AI+，AI 芯片，IoT，投資人）的豐富平臺，意欲給三界參會者從產學研多個維度，呈現出更富前瞻性與落地性相結合的會議內容與現場體驗。
Joseph Sifakis 教授是 CCF-GAIR 2018 首日的人工智能主論壇重磅演講嘉賓，Joseph Sifakis 是美國國家科學院、工程院、歐洲科學院三院院士，他還是圖靈獎得主，因「在將模型檢查發展為被硬件和軟件業中所廣泛採納的高效驗證技術上的貢獻」獲得 2007 年度的圖靈獎。
「從模型檢測到嵌入式設備，再到物聯網時代，Joseph Sifakis 教授最有話語權」，這樣的評價一點都不為過。
上圖呈現了一幅物聯網的願景，我們有基礎架構和基礎設施來承載如此多的物件。同時，我們有不同的物聯網願景：
物聯網（IoT），它提升了互聯網
工業物聯網（industrial IoT）和人類 IoT（human IoT）
工業物聯網系統是自主的，自主意味著沒有人類的干擾和介入。現在我們面對的巨大的挑戰是：我們在工業物聯網中的基礎設施和技術是否能夠實現物聯網的願景。
美國於 5 年前成立了一個工業互聯網的聯盟，即物聯網。發展物聯網要涉及到不同的方面：包括自主的決策、自主的運營、自主的學習，這也就是自主的意義。重中之重的是，我們必須瞭解這個自主系統，它具有不同的自主程度（不同的自主程度取決於環境的複雜度），以及使命的複雜度，還有一些人類活動的可行性的執行和非人類操作員的干涉。
圖（下）為無人駕駛車，我們用不同的自主範圍和自主水平來判定它的自主化程度，如從 level 0 到 level 5 的階段（從無自主化到完全自主化）。level5 階段的無人駕駛車是完全自主化的，它是不受人類干預的，完全由機器人操控的汽車。
我們現在面臨著很多侷限性，在基礎設施方面，我們有綜合化的系統，也有各種優化的系統，一些科學家在不斷地提升自動化技術。但是，也還有很多科學家對物聯網自主化系統的發展過度樂觀。我們正在逐步前進，要執行各項系統和做好開源的系統設計。在系統設計方面，我們可以從一開始就提升它的可靠性。
我想介紹一下這個系統的設計。系統包括很多方面，包括想互動的東西，硬件，軟件，以及其它的各種組件。
這個系統有什麼特性呢？
它必須是值得大家信任的，它必須是可靠的。比如，在設計的過程中不能出現環境上的干擾，硬件失誤，設計上的誤差以及一些惡意的行為。所以，我們必須要優化系統設計。優化系統設計其實成本並不高，如果在初始階段就對系統進行優化設計，那麼成本就不會過高。
這是系統設計，系統的設計非常關鍵。其中，Best-effort 是最優的設計。
我們關心管理系統和設計系統。系統中有一些非常關鍵的使命，我們有著最優的設計，同時還要考慮系統的可靠性，該可靠性會花費一部分成本。系統的可靠性涉及到 10-9（10 的負 9 次方） 的安全的臨界性（safety critical）。
系統設計有不同的指數級別和等級
為什麼我們不能提升這些等級的可靠性？因為我們需要一些非常關鍵且必須非常可靠的系統。
為此，我來解釋一下需要哪些基本的原則。
我們依賴兩個技術，一個是驗證，一個是測試。驗證指的是，你可以證明你的系統能夠正確地運行，並且是基於模式的。你有一個模式，然後還有要求，有形式化要求，有模式的形式化，你用專業的知識來使這個系統符合這些要求。
在驗證方面，我有 20 多年的工作經驗，驗證已經成功應用於軟件和硬件領域。對於自動系統，我們需要的是要求的形式化，下圖是自動駕駛的 28 項要求。
我來向大家闡釋其中的一些要求，要將這些要求形式化非常難。
比如，當你在正式形式化一個要求的時候，你要利用邏輯和人的行為，這是非常難的。另外一個難點是，我們都知道硬件和軟件之間要互動，我們要理解軟件的行為和硬件的平臺，要理解它們之間的複雜互動。
現在，我們有很多硬件平臺，為了開發一個可靠的模式，在這個模式下，我們需要驗證這個系統，並且還會出現很多可能的失誤。因此，系統驗證是一個非常難的任務。我們需要理解的非常重要的一點是，雖然自動系統中有機器學習技術，但是我們也沒有辦法來驗證機器學習。因為在神經網絡中，當你開發一個神經網絡的時候，而沒有辦法對神經網絡進行驗證。因為沒有（對神經網絡的）要求，所有沒有辦法來驗證這個神經網絡，這就意味著神經網絡沒有辦法用來系統地驗證。
另外一個模式，就是 V-Model，我們利用這樣一個模式來開發可靠的系統。
首先，我們有詳細的設計。其次，我們定義它的要求和構架。然後，我們進行操作，來測試這個構架，融合所有構建和成分。
我們在之前使用過 V-Model 這個模式，但在軟件工程方面，已經不再運用這個模式了（尤其是現代的軟件工程師們）。
目前沒有應用這兩個技術，因此我們需要找到其它的方法來解決新的問題。
我們來談一談自動化挑戰。
我找到了三個問題，以及我們如何來理解這三個問題。
一、物聯網領域的自主化系統設計的複雜度如何？
首先，我希望我們的自動化系統能夠在沒有人的干預下，來應對複雜的環境。
我們可以看到，構建複雜度在上升和構架複雜度也在上升，導致設計複雜度在上升。在這個系統中，系統的複雜度隨著組件和構架的複雜度的上升而上升。
二、如何來衡量組件或者成分的複雜度？
首先，我們有一個函數，給它一個值，得到一個函數結果。在編程時，我們利用函數，這非常簡單。軟件也是可以非常複雜的，它會有很多行的代碼。在三個構架的系統中，有輸入和輸出，有時的輸出是基於歷史的輸入值的。在一個嵌入系統中，計算機在實際環境中不斷地演變，目前，在系統設計方面有了一個新的方向：虛擬物理系統。在虛擬物理系統中，有計算機，也有電子元件。當我們設計這樣一個信息物理系統的時候，我們還要利用其它的知識。
我來向大家展示該信息物理系統，未來，所有的物體（無論是汽車還是其它的元件）都基於信息物理系統。也就是說，存在機械的部件，但是每一個機械部件都有一個計算機軟件來對應它。不同的零部件對應不同的電腦軟件。這裡，有一些可靠的軟件部件，還有硬件，我們用兩個構件來構成這樣一個模擬的自動駕駛系統模型，再將模型發送到工廠，這就是工業 4.0 的概念。
當然，設計這樣一個虛擬物理系統也帶來了諸多挑戰：
關於如何運用模擬器，就有很多的技術問題需要解決。
如何來融合、如何來構建這樣一個信息物理系統，我們面臨很多的挑戰。
我們的目標是建立一個模式，從上面的模擬的自動駕駛系統模型中，我們看到有很多的軟件構件和很多部件構建的模型，我們需要融合多領域和多尺度的理論。這就涉及到工程和理論兩個方面的問題，這些問題非常重要，它們都需要解決。
現在，我們來談一談構架的複雜度。我剛剛談到了構架，我在這個領域已經工作多年。圖中的構架都是完全靜態的，其中，有最簡單的構架，也有最複雜的構架。
在我們的系統設計中，構架越來越重要。構架的定義，它指一個系統中有不同的構件，構架讓我們可以建立一個正確的系統。工程師利用構架來建立一個正確的系統。
注：這一頁解釋瞭如何利用構架來建立正確的系統。
三、在設計一個正確系統的時候，有哪些構件？
我們知道這些構件的複雜度，然後我們有構架，我們要協調不同的參數。
我們有一個動態的參數的構架，你可以在這個動態的構架中創造新的參數或者刪除參數，這種動態的構架可以跟隨環境的變化而變化，所以非常複雜。
還有一個是自我組織的構架，這是一個移動的構架，但是它不只有一種協調，它有非常多的協調規則，不只是一套規則。比如，你可能要自我構架一輛車或者是其它設備，因此，我們可以看到有靜態的構架，還有參數型的構架，還有動態的構架，還有自我組織的構架。
我們來談一談面臨的挑戰：如何來建造基於知識的設計？
為什麼需要知識？因為我們的系統必須需要應對不確定性，如果用機器取代人類，那麼機器就必須具備相應的知識。
現在我們來定義一下什麼叫知識，知識是一種信息，這種信息是真實的。什麼是真實的信息？
真實的信息可以用來理解一種情景，或者用來解決一個問題。這裡，我們有不同的知識的分類，工程師所運用的知識分類。比如說，我們有可證明的信息或者實驗性的知識。機器學習就是一種實驗性的知識。我們的工程師和科學家也會產生一種知識，並應用知識。
我一直在研究的一個重要問題是，我們在多大程度上能產生新的知識並應用知識。對工程師來說，現在他們有一個系統，然後建模，再生成知識。這個系統中我們有強大的語言，有時候，我們有豐富的模型，當然這需要非常強大的計算力。我們要應用知識的話，需要對系統進行建模，然後執行這個系統。在這種情況下，在建模方面非常困難。這意味著我們要理解並且正確地轉化這個知識。因為我們的環境非常的不確定且複雜度非常高，因此在這個方面我們也面臨著一些挑戰。
在系統設計中，有一些缺陷存在於最優的系統設計和臨界系統中，工程師的目標是確保這個系統的完整性。我們可以用最優的設計方法，將這個系統設計的很好。但是，在系統設計中，還需要有適應性的系統。
那麼，我們如何彌補最佳方法和工程方法系統之間的差距？
需要我們在進行系統設計的同時，也考慮到設計的標準：需要考慮到系統必須是非常值得信任的。我們還有一些可以控制的系統，可以進行和系統、環境之間更好的合作，這就是適應型的控制器，如此一來，這個系統就會變得足夠安全。有的時候，系統也會出現一些問題，我們要對系統進行監控。如果問題出現，我們需要降低這些缺陷，這是共識。我們經常在有些區域運用這些方法，計算系統中有各種控制理論，我們使用控制為基礎的各種技術來確保計算的正確性。儘管如此，還是出現了一些不可預估的風險，所以一開始的系統的設計就顯得非常重要，我們需要確保這一點。以知識為基礎的設計（包括它的設計時間的知識），有時，我們不能保證這個設計時間，因此，我們需要建立一些特性，設計流程的某些步驟能夠保證真正在執行的時間，能夠保證完全真實的執行情況。
接下來我想說，目前無人駕駛汽車等自主化系統案例都非常引人注目，我們設定了一些標準來允許在對這些自主化系統進行質量上的檢測。還包括在研發過程當中，提供決定性的證據，來校正這個系統和一些錯誤的形態。如特斯拉汽車，它會自我驗證，它們在研發的過程當中都必須要進行驗證，但在一開始，需要對這個車進行安全性的驗證。
現在，我們需要做研究，需要新的方法和新的研究，來研究自動駕駛的安全性。我認為 AI 對自主化問題的部分回答。例如非常聰明的 AlphaGo，AlphaGo 解決了一些問題，AI 能夠幫助我們來進行博弈，而這些博弈的規則正在不斷地變化當中。
閱讀更多 雷鋒網 的文章
