雷鋒網 AI 科技品論按：2019 年年底，圖靈獎獲得者 Bengio 指出，我們正處於從以感知智能為代表的深度學習系統 1，向以認知智能為代表的深度學習系統 2 過渡的時期。
在這個過程中，知識圖譜技術起到了關鍵性的作用。近年來，圖網絡的蓬勃發展也印證了這一趨勢。
本文是數據科學權威 Philip S. Yu 團隊對知識圖譜領域的最新綜述，從發展歷史、理論基礎、實際應用、未來的研究方向等方面為該領域勾畫出了一幅宏偉而全面的圖景。
引入人類的知識是人工智能的重要研究方向之一。知識表徵和推理受到了人類解決問題方法的啟發，旨在為智能系統表徵知識，從而獲得解決複雜問題的能力。最近，知識圖譜作為一種結構化的人類知識，同時受到了學術界和工業界人士的極大關注。
知識圖譜是一種對於事實的結構化表徵，它由實體、關係和語義描述組成。實體可以是真實世界中存在的對象，也可以是抽象的概念；關係則表示實體之間的關聯；實體及其關係的語義描述包含定義良好的類型和屬性。如今，屬性圖已經被廣泛使用，其中節點和關係都具有屬性。
術語「知識圖譜」和「知識庫」幾乎是同義詞，只有很微小的差別。當我們考慮知識圖譜的圖結構時，可以將其視為一個圖。當涉及形式語義問題時，它又可以作為對事實進行解釋和推理的知識庫。知識庫和知識圖譜的具體形式如圖 1 所示。
知識可以通過資源描述框架（RDF）被表示為一種事實三元組的形式，如（頭實體，關係，尾實體）或（主語，謂語，賓語），例如（愛因斯坦，是...獲獎者，諾貝爾獎）。知識也可以被表徵為一種有向圖，其節點代表實體，邊代表關係。
為了簡便起見，並順應研究社區的發展趨勢，本文中互換使用知識圖譜和知識庫這兩個術語。
圖 1：知識庫和知識圖譜示意圖
近年來，基於知識圖譜的研究主要關注的是，通過將實體和關係映射到低維向量中，獲取它們的語義信息，從而實現知識表徵學習（KRL）或知識圖譜嵌入（KGE）。具體的知識獲取任務包括知識圖譜補全（KGC）、三元組分類、實體識別，以及關係抽取。
基於知識的模型得益於異構信息、豐富的知識表徵本體和語義，以及多種語言知識的集成。因此，在常識理解能力和推理能力取得進步的同時，諸如推薦系統和問答系統等許多真實世界中的應用也走向了繁榮。微軟的 Satori 和谷歌的知識圖譜等現實世界中的產品，已經展現出了提供更多高效服務的強大能力。
一、知識庫簡史
在邏輯學和人工智能領域，知識表徵經歷了漫長的發展歷史。用圖進行知識表徵的思想最早可以追溯到 Richens 在 1956 年提出的「語義網」（Semantic Net），而符號邏輯知識則可以追溯到 1959 年的通用問題求解器。
起初，知識庫被用於基於知識的推理的問題求解系統。MYCIN 是被用於醫學診斷的、最著名的基於規則的專家系統之一，它擁有一個包含約 600 條規則的知識庫。
在這之後，人類知識表徵研究社區在基於框架的語言、基於規則的表徵以及混合表徵方面都取得了一定的研究進展。大約在這一時期的末期，旨在集成人類知識的 Cyc 計劃，開始了。
資源描述框架（RDF）和網絡本體語言（OWL）相繼發佈，成為了語義網的重要標準。接著，人們也發佈了諸如 WordNet、DBpedia、YAGO 和 Freebase 這樣的開放的知識庫或本體。
Stokman 和 Vries 於 1988 年提出了現代意義上的以圖的形式組織知識的思想。然而，知識圖譜的概念開始盛行還要等到 2012 年穀歌首次在其搜索引擎中引入知識圖譜，此時它們提出了被稱為「Knowledge Vault」的知識融合框架，從而構建大規模知識圖譜。知識庫的發展歷史簡圖請參閱本文附錄 A。
二、相關定義和符號
研究人員做了大量工作，通過描述通用語義表徵或本質特徵來為知識圖譜給出定義。然而，知識圖譜至今仍沒有被廣為接受的正式定義。Paulheim 定義了 4 種知識圖譜的標準。 Ehrlinger 和 Wo ̈ß 分析了一些現有的定義，並提出瞭如下所示的定義 1，它強調了知識圖譜的推理引擎。Wang 等人在定義 2 中提出了一個多關係圖的定義。
受到之前這些工作的啟發，我們將一個知識圖譜定義為 G = {E,R,F}，其中 E、R、F分別是實體、關係和事實的集合。事實可以被表示為一個三元組 (h,r,t) ∈ F。
定義 1（Ehrlinger 和 Wo ̈ß）：知識圖譜會獲取信息並將其集成到一個本體中，使用一個推理器產生新的知識。
定義 2（Wang 等人）：知識圖譜是由實體和關係構成的多關係圖，實體被視為節點而關係被視為各種不同類型的邊。
表 1：知識圖譜相關符號和定義
三、知識圖譜研究分類
1、知識表徵學習（KRL）
知識表徵學習是知識圖譜領域的關鍵研究問題，它為許多知識獲取任務和下游應用打下了基礎。我們將 KRL 分為 4 個層面：表徵空間、打分函數、編碼模型和輔助信息。本文還給出了明確的研發 KRL 模型的工作流程。 詳細內容如下：
1）表徵空間
圖 3：不同空間中的知識表徵示意圖
學習實體和關係的低維分佈嵌入是表徵學習的關鍵問題。現有的工作主要使用的是向量、矩陣、張量空間等實值點空間（如圖 3a 所示），同時也會使用複雜向量空間（如圖 3b 所示）、高斯空間（如圖 3c 所示）以及流形（如圖 3d 所示）等其它類型的空間。
2)打分函數
圖 4：基於距離和基於相似度匹配的打分函數示意圖，分別以 TransE 和 DistMult 為例。
打分函數被用來衡量事實的合理性，它在基於能量的學習框架中也被稱為能量函數。基於能量的學習旨在學習輸入為 x、參數為 θ 的能量函數 E_θ(x)，它將確保正樣本比負樣本有更高的得分。在本文中，統一將其稱為「打分函數」。
典型的用於衡量事實合理性的打分函數分為兩類：即基於距離的打分函數（如圖 4a 所示）和基於相似度的打分函數（如圖 4b）。基於距離的打分函數通過計算實體之間的距離衡量事實的合理性，通過實體間關係實現 h + r ≈ t 這種加法變換的思想被廣泛使用。基於語義相似度的打分函數通過語義匹配衡量事實的合理性，它通常採用
這樣的乘法公式在表徵空間中將頭實體變換得與尾實體相近。
3）編碼模型
編碼模型通過特定的模型架構（如線性/雙線性模型、因子分解模型、神經網絡）編碼實體和關係之間的相互作用。
線性模型通過將頭實體投影到接近尾實體的表徵空間中，將關係表示為一個線性/雙線性映射。因子分解旨在將關係型數據分解到低秩矩陣中，從而進行表徵學習。神經網絡則通過非線性神經激活映射和更加複雜的網絡結構對關係型數據進行編碼。一些常見的神經網絡模型如圖 5 所示。
圖 5：神經編碼模型示意圖。（a）多層感知機，和（b）卷積神經網絡將三元組輸入到全連接層中，並且進行卷積操作，從而學習到語義表徵。（c）圖卷積網絡作為知識圖譜編碼器，生成實體和關係的嵌入。（d）RSN 有差別地對「實體-關係序列」和跳躍關係進行編碼。
4）輔助信息
為了促進更有效的知識表徵，多模態嵌入將諸如文本描述、類型約束、關係路徑以及視覺信息等外部信息與知識圖譜本身融合在了一起。
在知識圖譜研究社區中，知識表徵學習是非常重要的。總的來說，想要研發一個新的知識表徵學習模型需要回答以下 4 個問題：（1）選擇怎樣的表徵空間；（2）如何度量特定空間中的三元組合理性；（3）用怎樣的編碼模型編碼關係的相互作用；（4）是否要利用輔助信息。
最常用的表徵空間是歐氏點空間，它將實體嵌入到向量空間中，並且通過向量、矩陣或張量對相互作用進行建模。人們也研究了其它的表徵空間（包括複雜向量空間、高斯分佈、流形空間、群）。
相對於歐氏點空間，流形空間的優勢在於它能夠鬆弛基於點的嵌入；高斯嵌入可以表達出實體和關係之間的不確定性，以及多重關係語義；複雜向量空間中的嵌入可以有效地建模不同的關係連接模型，特別是對稱/反對稱模式。
在編碼實體的語義信息和獲取關係屬性時，表徵空間起著非常重要的作用。當我們研發一個表徵學習模型時，應該選擇合適的表徵空間，該表徵空間被精心設計以匹配編碼方式的特性，並且能夠在表達能力和計算複雜度之間達到平衡。
採用基於距離的度量的打分函數會用到相應的轉化原則，而基於語義匹配的打分函數則會採用成分級別的操作。編碼模型（尤其是神經網絡）在對於實體和關係的相互作用建模的過程中起到了關鍵作用。雙線性模型也受到了很多研究人員的關注，一些張量分解技術與此相關。其它方法則引入了文本描述、關係/實體類型，以及實體圖像等輔助信息。
表 2：對近期知識表徵學習工作的總結。詳情請參閱附錄 C
2、知識獲取
知識獲取旨在根據非結構化的文本構建知識圖譜、補全一個現有的知識圖譜，發現並識別出實體和關係。構建好的大型知識圖譜對於很多下游應用是很有用的，可以賦予基於知識的模型常識推理的能力，因此為實現人工智能打下基礎。
知識獲取的主要任務包括關係抽取、知識圖譜補全、以及其它面向實體的獲取任務，如實體識別和實體對齊。大多數方法單獨地形式化定義知識圖譜補全和關係抽取。然而，這兩種任務也可以被整合到一個統一的框架中。
Han 等人基於互注意力機制提出了一種聯合學習框架，這種互注意力機制被用於知識圖譜和文本之間的數據融合，該框架同時解決了根據文本進行知識圖譜補全和關係抽取的問題。此外，還有一些任務也與知識補全有關（例如，三元組分類和關係分類）。在本節中，我們將完整地回顧知識補全、實體發現和關係抽取三步知識獲取技術。
1）知識圖譜補全（KGC）
由於大多知識圖譜具有不完整性，人們研發知識補全技術將新的三元組添加到一個新的知識圖譜中。典型的子任務包括鏈接預測、實體預測和關係預測。下面我們給出面向任務的定義 3.
定義 3： 給定一個不完整的知識圖譜 G=（E，R，F），知識圖譜補全旨在推理出缺失的三元組 T={（h，r，t）|（h，r，t）∉ F}
初期的知識圖譜補全研究重點關注為三元組預測學習低維嵌入。在本文中，我們將其稱為「基於嵌入的方法」。
然而，大多數這些方法都不能獲取多級關係。因此，最近的工作轉而探索多級關係路徑並引入了邏輯關係，我們分別將其稱為「關係路徑推理」和「基於規則的推理」。三元組分類是知識圖譜補全的一個輔助任務，它被用來評價事實三元組的正確性。
2）實體發現
實體發現可以從文本中獲取面向實體的知識，並且在各個知識圖譜之間進行知識融合。根據具體情況，可以將實體發現任務分為幾種不同的類別。
我們以一種序列到序列（Seq2Seq）的方式探究實體識別任務；而實體分類任務則重點討論的是有噪聲的類型標籤和零樣本分類；實體消歧和對齊任務會學習統一的嵌入，它們提出迭代式的對齊模型解決對齊種子實體數量有限的問題。但是如果新對齊的實體性能很差，它將會面臨誤差累積的問題。
近年來，針對特定語言的知識越來越多，因此必然激發了對於跨語言知識對齊的研究。
圖 8：一些實體發現任務的示意圖
3）關係抽取
關係抽取是自動構建大型知識圖譜的關鍵任務，該任務將從樸素文本中抽取出未知的關係事實，並將他們添加到知識圖譜中。
由於缺乏帶有標籤的關係型數據，遠程監督（Distant Supervision）技術（又稱弱監督或自監督）使用啟發式匹配，假設在關係型數據庫的監督下，包含相同實體的句子可能表達相同的關係，從而創建訓練數據。
Mintz 等人將遠程監督用於關係分類任務，他們用到的文本特徵包括詞法和句法特徵、命名實體標籤，以及連接詞特徵。傳統的方法高度依賴於特徵工程，而最近的一種方法則探索了特徵之間的內在聯繫。深度神經網絡也正在改變知識圖譜和文本的表徵學習。最近在神經關係抽取（NRE）方法上的研究進展如圖 9 所示。
圖 9：神經關係抽取概覽
關係抽取任務在遠程監督的假設下會遇到帶有噪聲的模式，特別是在不同領域之間進行遠程監督時。因此，對於弱監督關係抽取來說，減小帶噪聲標籤的影響是非常重要的（例如，通過多示例學習將多個句子組成的包作為輸入，使用注意力機制在示例上進行「軟」選擇從而減少帶噪聲的模式，基於強化學習的方法將示例選擇表示為硬性決策。另一個原則是，儘可能學習到更加豐富的表徵。由於深度神經網絡可以解決傳統特徵抽取方法中的誤差傳播問題，該領域一直被基於深度神經網絡的模型所主導。
表 4：神經關係抽取近期研究進展一覽
3、 時序知識圖譜
現有的知識圖譜研究大多數都關注的是靜態知識圖譜，其中事實不會隨著時間而變化，然而目前對知識圖譜的時序動態變化的研究則較少。然而，由於結構化的知識僅僅在特定的時間段內成立，所以時序信息是非常重要的，而事實的演化也會遵循一個時間序列。
近期的研究開始將時序信息引入知識表徵學習和知識圖譜補全任務。為了與之前的靜態知識圖譜產生對比，我們將其稱為「時序知識圖譜」。為了同時學習時序嵌入和關係嵌入，人們進行了大量的研究工作。
1）時序信息嵌入
在與時序有關的嵌入中，我們通過將三元組拓展成時序四元組 (h,r,t,τ) 來考慮時序信息。其中 τ 提供了關於事實何時成立的額外的時序信息。Leblay 和 Chekol 利用帶有時間標註的三元組研究了時序範圍預測問題，並簡單地拓展了現有的嵌入方法。例如，將 TransE 拓展為基於向量的 TTransE 定義如下：
2）實體動態
現實世界中的事件會改變實體的狀態，並因此影響相應的關係。為了提升時間範圍預測的性能，上下文時序剖面模型將時序範圍預測形式化定義為了狀態變化檢測問題，利用上下文學習狀態和狀態變化向量。
「Know-evolve」是一種深度演化知識網絡，它研究了實體和它們演化後的關係的知識演化現象。人們使用了一種多變量時序點過程對事實的發生進行建模，研發出了一種新型的循環網絡學習非線性時序演化的表徵。
為了獲取節點之間的相互作用，RE-NET 通過基於循環神經網絡的編碼器和鄰居聚合器對事件序列進行建模。具體而言，他們使用循環神經網絡來獲取時序實體相互作用的信息，並且通過鄰居聚合器將同時發生的相互作用進行聚合。
3）時序關係依賴
在關係鏈中，沿著時間線存在時序依賴關係。例如，「在...出生 →從...畢業 → 在...工作 → 在...去世」。Jiang 等人提出了基於時間的嵌入，這是一種帶有時序正則化的聯合學習框架，從而引入時間順序和一致性信息。作者將時序打分函數定義如下：
其中，
是一個非對稱矩陣，它為時序順序關係對⟨r_k,r_l⟩編碼了關係的時序順序。此後，人們又進一步通過整數線性規劃公式，應用了不相交性（disjointness）、有序性（ordering）和跨度（spans）三種時間一致性約束。
4）時序邏輯推理
研究人員還研究了時序推理的邏輯規則。Chekol 等人探究了在非確定性時序知識圖譜上進行推理的馬爾科夫邏輯網絡和概率軟邏輯。RLvLR-Stream 則考慮閉合時間路徑規則，並從知識圖譜流中學習規則的結構進行推理。
4、基於知識的應用
對於人工智能應用來說，豐富的結構化知識是很有用的。但是如何將這些符號化的知識融合到現實世界應用的計算框架中仍然是一大挑戰。本節將介紹一些近期的基於深度神經網絡的知識驅動方法在自然語言理解（NLU）任務上的應用。
1）自然語言理解
基於知識的自然語言理解通過被注入統一語義空間的結構化知識提升了語言表徵的性能。最近，該領域由知識驅動的研究進展利用了顯式的事實知識和隱式的語言表徵，並探索了許多自然語言理解任務。
Chen 等人提出了在兩個知識圖譜（即一個基於槽（slot-based）的語義知識圖譜和基於單詞的詞法知識圖譜）上的雙圖隨機遊走技術，從而考慮口語理解中的槽間關係。Wang 等人通過加權的「單詞-概念」嵌入實現的基於知識的概念模型增強了短文本表徵學習。Peng 等人融合了外部知識庫，從而為短社交文本的事件分類任務構建了異構信息圖譜。
2）問答系統
基於知識的問答（KG-QA）系統使用來源於知識圖譜的事實回答自然語言問題。基於神經網絡的方法在分佈式語義空間中表徵問題和答案，也有一些方法進行了符號知識注入，從而實現常識推理。
通過將知識圖譜作為外部智能來源，簡單的事實型問答系統或單一事實問答系統就可以回答設計單個知識圖譜事實的簡單問題。Bordes 等人通過將知識庫作為外部記憶，將記憶網絡用於簡單的問答.
這些基於神經網絡的方法將神經「編碼器-解碼器」模型結合起來，獲得了性能的提升。但是想要處理複雜的多級關係還需要能夠處理多級常識推理的、更加專用的網絡設計。結構化的知識提供了富含信息的常識觀察，並作為一種關係型歸納偏置存在，它促進了最近關於多級推理的符號和語義空間之間的常識知識融合的研究。
3）推薦系統
研究人員通過協同過濾對推薦系統進行了廣泛的研究，該方法使用了用戶的歷史信息。然而，這種方法往往不能解決稀疏性問題和冷啟動問題。將知識圖譜作為外部信息引入可以為推薦系統賦予常識推理的能力。
通過注入基於知識圖譜的輔助信息（例如，實體、關係和屬性），研究人員在用於提升推薦性能的嵌入正則化方面做了大量工作。還有一些工作考慮到了關係路徑和知識圖譜的結構，KPRN 將用戶和商品之間的交互看做知識圖譜中的「實體-關係」路徑，並且使用 LSTM 獲取序列的依賴性，從而在路徑上進行用戶喜好預測。
四、未來的研究方向
研究人員做了大量工作解決知識表徵及其相關應用面臨的挑戰，但是仍然有一些艱難的開放問題有待解決，未來也有一些前景光明的的研究方向。
1、複雜的推理
用於知識表徵和推理的數值化計算需要連續的向量空間，從而獲取實體和關係的語義信息。然而，基於嵌入的方法在複雜邏輯推理任務中有一定的侷限性，但關係路徑和符號邏輯這兩個研究方向值得進一步探索。在知識圖譜上的循環關係路徑編碼、基於圖神經網絡的信息傳遞等具有研究前景的方法，以及基於強化學習的路徑發現和推理對於解決複雜推理問題是很有研究前景的。
在結合邏輯規則和嵌入的方面，近期的工作將馬爾科夫邏輯網絡和 KGE 結合了起來，旨在利用邏輯規則並處理其不確定性。利用高效的嵌入實現能夠獲取不確定性和領域知識的概率推理，是未來一個值得注意的研究方向。
2、統一的框架
已有多個知識圖譜表徵學習模型被證明是等價的。例如，Hayshi 和 Shimbo 證明了 HoIE 和 ComplEx 對於帶有特定約束的鏈接預測任務在數學上是等價的。ANALOGY 為幾種具有代表性的模型（包括 DistMult、ComplEx，以及 HoIE）給出了一個統一的視角。Wang 等人探索了一些雙線性模型之間的聯繫。Chandrahas 等人探究了對於加法和乘法知識表徵學習模型的幾何理解。
大多數工作分別使用不同的模型形式化定義了知識獲取的知識圖譜補全任務和關係抽取任務。Han 等人將知識圖譜和文本放在一起考慮，並且提出了一種聯合學習框架，該框架使用了在知識圖譜和文本之間共享信息的互注意力機制。不過這些工作對於知識表徵和推理的統一理解的研究則較少。
然而，像圖網絡的統一框架那樣對該問題進行統一的研究，是十分有意義的，將填補該領域研究的空白。
3、可解釋性
知識表徵和注入的可解釋性對於知識獲取和真實世界中的應用來說是一個關鍵問題。在可解釋性方面，研究人員已經做了一些初步的工作。ITransF 將稀疏向量用於知識遷移，並通過注意力的可視化技術實現可解釋性。CrossE 通過使用基於嵌入的路徑搜索來生成對於鏈接預測的解釋，從而探索了對知識圖譜的解釋方法。
然而，儘管最近的一些神經網絡已經取得了令人印象深刻的性能，但是它們在透明度和可解釋性方面仍存在侷限性。一些方法嘗試將黑盒的神經網絡模型和符號推理結合了起來，通過引入邏輯規則增加可解釋性。
畢竟只有實現可解釋性才可以說服人們相信預測結果，因此研究人員需要在可解釋性和提升預測知識的可信度的方面做出更多的工作。
4、可擴展性
可擴展性是大型知識圖譜的關鍵問題。我們需要在計算效率和模型的表達能力之間作出權衡，而只有很少的工作被應用到了多於 100 萬個實體的場景下。一些嵌入方法使用了簡化技術降低了計算開銷（例如，通過循環相關運算簡化張量的乘積）。然而，這些方法仍然難以擴展到數以百萬計的實體和關係上。
類似於使用馬爾科夫邏輯網絡這樣的概率邏輯推理是計算密集型的任務，這使得該任務難以被擴展到大規模知識圖譜上。最近提出的神經網絡模型中的規則是由簡單的暴力搜索（BF）生成的，這使得它在大規模知識圖譜上不可行。例如 ExpressGNN 試圖使用 NeuralLP 進行高效的規則演繹，但是要處理複雜的深度架構和不斷增長的知識圖譜還有很多研究工作有待探索。
5、知識聚合
全局知識的聚合是基於知識的應用的核心。例如，推薦系統使用知識圖譜來建模「用戶-商品」的交互，而文本分類則一同將文本和知識圖譜編碼到語義空間中。不過，大多數現有的知識聚合方法都是基於注意力機制和圖神經網絡（GNN）設計的。
得益於 Transformers 及其變體（例如 BERT 模型），自然語言處理研究社區由於大規模預訓練取得了很大的進步。而最近的研究發現，使用非結構化文本構建的預訓練語言模型確實可以獲取到事實知識。大規模預訓練是一種直接的知識注入方式。然而，以一種高效且可解釋的方式重新思考只是聚合的方式也是很有意義的。
6、自動構建和動態變化
現有的知識圖譜高度依賴於手動的構建方式，這是一種開銷高昂的勞動密集型任務。知識圖譜在不同的認知智能領域的廣泛應用，對從大規模非結構化的內容中自動構建知識圖譜提出了要求。
近期的研究主要關注的是，在現有的知識圖譜的監督信號下，半自動地構建知識圖譜。面對多模態、異構的大規模應用，自動化的知識圖譜構建仍然面臨著很大的挑戰。
目前，主流的研究重點關注靜態的知識圖譜。鮮有工作探究時序範圍的有效性，並學習時序信息以及實體的動態變化。然而，許多事實僅僅在特定的時間段內成立。
考慮到時序特性的動態知識圖譜，將可以解決傳統知識表徵和推理的侷限性。雷鋒網雷鋒網
閱讀更多 雷鋒網 的文章
