Filecoin等分散存儲:互聯網價值的基礎

編譯:IPFS星際大陸


Filecoin等分散存儲:互聯網價值的基礎

萬物互聯


互聯網已經發展。Web參與者可以訪問類似於電話簿的物理目錄並通過遠程連接在客戶端和服務器之間進行連接的日子已經一去不復返了。

互聯網最初是分散的,而現在已經是集中的。因此,很明顯,有必要改進分發和存儲信息的方法,因為Google、Amazon、Facebook或Microsoft等大公司已開始關注其數據處理平臺。我們共享或開發的所有內容。

許多人將他們的項目和個人信息委託給提供大容量存儲解決方案的這些公司,這些公司清楚地表明,他們的利益可能是自私的。

個人數據的洩露引起了數字社區的懷疑,尤其是在諸如Facebook,Google,Amazon或Microsoft等私有平臺上對個人信息的操縱和交易方面。

服務器上的任何問題都可能使數以百萬計的人失去數據的潛在可能性,無法改善情況。

在許多情況下,我們轉移對個人數據的所有權這一事實使這種觀點惡化了,這也與審查和監視通過集中式Internet服務器傳輸的信息的做法日趨可疑有關。

分散存儲的起源

多年來,這種情況已導致創建分散式數據存儲系統的一系列工作,這是在Internet上提高安全性,機密性和自由性的關鍵要素。

回想一下1990年代,人們從本地服務器存儲了數據,並且該信息是通過請求交換給其他計算機的。人們最初可以從Internet上獲得服務並控制文件,但是設置服務器需要網絡編程,網絡安全和時間方面的豐富經驗。

嘗試通過p2p和開源文件交換來分散Internet的早期網絡(例如Napster,Gnutella和Freenet)沒有足夠的基礎架構,因為它們在某些情況下依賴中央服務器或沒有兼容軟件。以便在分佈式節點之間高效地查找數據。

隨著勝利和失敗,去中心化Internet協議(包括用於數據存儲的協議)得到了發展。但是,大型數據中心繼續在Internet上占主導地位,這是其運行的基本要素。那些開發用於交換Web內容的應用程序或平臺的人在上述大型商務中心之外幾乎找不到其他選擇。

但是,由於區塊鏈網絡的出現,尋找替代方法以改善我們傳輸,下載和存儲文件的方式已開始呈現新的全景。諸如Swarm,IPFS,Sia,Storj或RIF Storage之類的項目正在朝著這個方向發展。


Filecoin等分散存儲:互聯網價值的基礎

存儲


分散存儲如何工作?

分散存儲系統的基本原理是創建一個分佈式計算機網絡,該網絡能夠一起工作以託管和檢索以前的分段和加密信息,以便網絡的不同用戶確定他們的信息將可用。在必要的情況下,將其安置在自私的利益和惡意攻擊者的保護之下。

具有代表性的項目例如Swarm受益於以太坊基礎設施和IPFS(行星際文件系統)項目,IPFS是一種P2P協議,能夠克服目前互聯網上普遍存在的中央服務控制和限制。

為了展示分佈式存儲協議的工作原理,我們將使用IPFS(一個於2017年創建的項目),該項目提供了一種新的方式來使用對等網絡託管文件在Internet上共享數據。通常,分散式存儲網絡的框架可以總結如下:

來源:Blockchain Institute數據

(A)分為幾個部分或片段

(B)每個片段都用希望存儲文件的用戶的公鑰加密

(C)為每個片段生成哈希

(D)加密的片段

(E)分發到對等節點進行存儲加密的片段在許多對等節點中複製,每個對等節點共享一個公共分類帳

(F)片段散列保存在區塊鏈

(G)中以供參考恢復期間

這些分散的數據存儲協議已經通過Swarm,SIA,Filecoin,Storj和RIF Storage等網絡進行了測試;這些項目旨在通過各種激勵措施和方法來防止信息審查而刺激存儲系統的去中心化。

接下來,我們將大致描述其中幾個系統的操作方案,這些系統是分散存儲的主要代表。

Swarm

Swarm是在以太坊區塊鏈上的分佈式存儲平臺和內容分發服務,構成了以太坊Web3堆棧的本機基礎層。它提供了一個持續運行的點對點存儲解決方案,它具有原生的激勵系統,可抵抗DDOS攻擊,容錯,審查制度和自給自足。

Swarm(bzz)協議實現了具有目標內容的分佈式塊存儲。對您來說這看起來複雜嗎?讓我們解釋一下:片段是任意數據塊,最大固定大小為4 KB,它是將文件分為Swarm(類似於拼圖)的基本存儲和檢索單元。如果他們不完整見面,他們什麼也不表達。

對於所尋址的內容,此概念旨在指示上載到Swarm的內容片段已鏈接到用於標識的存儲地址。該地址是通過散列函數確定性地從其內容派生的,該散列函數將片段作為輸入,並返回32字節的散列作為輸出。

哈希函數不可逆,無衝突且分佈均勻。實際上,這就是使比特幣和一般的工作證明起作用的原因。

片段的哈希是客戶端可用來檢索片段的地址,因為該哈希用於映射和定位網絡中的片段。此外,上述不可逆且無衝突的尋址保護了數據完整性:無論客戶端如何學習地址,它都可以確定片段是否已損壞或僅通過對其進行哈希處理就可以對其進行操作。

片段到達其地址的協議過程稱為同步。當一個節點需要一個片段時,它只是簡單地用內容地址向Swarm發送一個請求,而Swarm將重新發送該請求,直到找到數據(或請求超時)為止。

組成Swarm網絡的所有節點都將資源(磁盤空間,內存,帶寬和CPU)投入到存儲和服務碎片中,這些碎片最終將被存儲在最接近每個碎片地址(哈希)的節點中。

Swarm有一個稱為Swarm Accounting Protocol(SWAP)的激勵協議,這是一個“以眼還眼”的系統,其中節點計算他們請求並關注的數據量。如果要求節點提供許多片段,SWAP將通過第二層支付解決方案(如Raiden)發出付款請求。

與SWAP激勵系統結合使用時,節點的合理利益應導致其存儲高速緩存片段,因此應首先按需提供節點,以提高其性能。結果,流行內容最終在網絡上得到了更多的冗餘複製,從而減少了片段的等待時間。

Swarm旨在成為通用的存儲和交付服務,當準備將其商業化時,它可以響應從低延遲實時交互式Web應用程序到長期存儲低使用率文件的用例。

Sia

Sia是由MIT Hack事件於2013年初設計的,最終於2015年推出。它使用工作量證明算法(PoW)來管理其區塊鏈的管理,並結合了要求提供者凍結(設置)固定數量的令牌,以換取存儲文件的特權。

在存儲文件時,提供商必須不斷將存儲證明上傳到Sia區塊鏈以驗證其參與。如果存儲服務提供商遵守存儲合同中所述的服務條件,則會獲得獎勵;在積極的情況下,他們從最終用戶那裡獲得佣金。

Sia通過使用一種稱為Reed-Solomon擦除編碼的技術將要存儲的文件分割為30個部分,該技術用於CD和DVD。該技術使Sia可以冗餘地分割文件,其中30個段中的10個足以完全恢復用戶的文件。

在使用Threefish算法(安全和高效的開源加密標準)進行分發之前,將對每個段進行加密。這與傳統的雲存儲提供商(例如Amazon)不同,後者默認情況下不會對用戶數據進行加密,並且比現有解決方案提供更高的安全性,因為主機僅存儲加密的文件段而不存儲完整的文件。

使用默克爾樹功能的稱為存儲證明的過程使您可以驗證每個段都屬於特定文件。

使用Sia網絡的人具有小額支付渠道,類似於比特幣中的Lightning Network。這樣,那些希望購買分散存儲的人可以用siacoin進行支付,而那些提供計算機存儲空間的人可以將siacoin作為智能合約存入抵押品。


Filecoin等分散存儲:互聯網價值的基礎

分佈式


Filecoin(IPFS)

Filecoin是一個去中心化的存儲網絡,參與者可以通過其存儲服務獲得獎勵,從而創建了一種基於算法的市場。市場在具有本機令牌(也稱為Filecoin)的區塊鏈上運行,礦工通過向客戶提供存儲來賺錢,或者從相反的角度來看,客戶花錢僱用礦工來存儲和檢索數據。

與比特幣一樣,Filecoin礦工競爭以巨大的獎勵破壞區塊。但是Filecoin的挖掘能力與主動存儲成正比,後者直接為客戶提供了有用的服務(與比特幣挖掘不同,比特幣挖掘的作用僅限於保持區塊鏈的共識)。這極大地鼓勵礦工積累儘可能多的存儲容量並將其出租給客戶。

數據存儲和檢索服務由獨立存儲提供商的網絡提供,該網絡不依賴單個協調器,其中:(1)客戶為存儲和檢索數據付費,(2)未成年人存儲在提供存儲期間賺取令牌(3)恢復礦工通過提供數據來賺取令牌。

該協議的雲存儲網絡還提供了安全性,因為在客戶端上端到端對內容進行了加密,而存儲提供者無權訪問解密密鑰。

Filecoin技術合併了兩個新的存儲測試:(1)複製測試,該存儲測試允許存儲提供者演示數據在其專用物理存儲中僅被複制一次。應用唯一的物理副本可以使驗證者驗證提供者是否不在同一存儲空間中複製數據的多個副本。(2)時空測試,它使存儲提供者能夠證明他們已在特定時間段內存儲了某些數據。

Filecoin充當IPFS的激勵層,可以為所有數據提供存儲基礎架構。這對於分散數據,創建和運行分佈式應用程序以及實施智能合約特別有用。

Storj

Storj最初是建立在以太坊網絡上的,儘管後來他們繼續發展成為名為Tardigrade的網絡。該項目的目標是開發基於分散存儲系統的市場,參與者可以在其中使用計算機的內部存儲空間來創建全球分佈的存儲雲。該項目具有同名加密貨幣,旨在促進激勵系統。

與SIA一樣,Tardigrade具有從基於Reed-Solomon的網絡下載文件的功能。在這種情況下,加密在分發到網絡之前在客戶端進行。每個文件均使用AES-256-GCM算法加密。

Storj最近開始使用CockroachDB進行測試,該數據庫管理系統已與Google Spanner進行了比較,該系統旨在將數據副本存儲在多個位置,以便在發出請求時可以將其下載很快

最近,Storj團隊宣佈已開發出一種通過IPFS系統從Tardigrade網絡下載數據的方法。這也增加了IPFS節點上託管的數據持久性的保證,因為在某些情況下,相同的IPFS網絡體系結構不能嚮應用程序開發人員保證其數據庫始終可用,尤其是在有大量節點的情況下。突然斷開連接,因此激勵平臺的重要性。

RIF存儲(群)

RIF存儲是由IOV Labs開發的一種抗審查,未經授權和分散的存儲協議,該項目於2019年3月和同年12月在測試網絡烏拉圭的LaBITConf期間啟動。測試網。

它的公開發布日期應在2020年。在此之前,他們將與Swarm團隊合作開發一個可互操作的生態系統,該生態系統基於支付層來管理激勵機制和市場交流。

最初,該網絡將使用Swarm協議運行,但仍在等待其將來與IPFS的集成,同時正在開發網關,市場和錨定服務的規範。

測試網絡將使用RIF令牌作為平臺貨幣來支付帶寬獎勵;儘管RIF的目標是允許在同一網絡中使用多種貨幣。同時,他們建議為生態系統開發人員提供使用RIF令牌測試RIF存儲的用戶體驗的機會。

此階段的新穎性恰好是SWAP協議的使用,該協議允許節點計算請求的信息量,服務量和應支付的小額付款數量。

在加密方面,該過程包括為每個分佈式片段分配一個哈希(使用默克爾樹函數),然後在請求文件並證明此數據的所有權時將各方聚集在一起。

RIF存儲是稱為RIF OS(RSK基礎結構框架開放標準)的較大基礎結構的一部分,該基礎結構由身份和信譽系統組成,該協議允許訪問任何脫鏈支付網絡。

結論

權力下放的道路很大程度上取決於激勵措施如何成為參與和採用方面增加價值的手段。確實,一旦有人使用這些服務來避免受到大公司或政府的控制或節省資金(在SIA這樣的網絡中存儲1 TB的存儲,每月的費用為1-2美元或Storj 10美元,而Amazon S3則為23美元),因此必須確保始終有人願意將節點或硬盤的一部分連接到幫助確保每個人的文件安全且可用於其特定用途。

例如,像SIA這樣的網絡表示其容量為2 PB,目前使用的730 TB的數據分佈在320多個存儲提供商中。但是,當您考慮每天添加到Internet的信息量時,這些存儲容量(類似於Storj)在網絡中是不夠的。據估計,2018年總共產生了約32個ZB(即320億字節)數據。

隨著該技術在未來幾年中的不斷髮展,明顯的性能問題使消費者和企業難以立即開始向分散網絡的遷移。

為了增加分散式雲存儲選項的普及性,它們必須能夠提供與集中式市場當前提供的服務相同或更好的服務。但是,由於該技術仍處於分層之中,因此距離我們還差幾年。因此,在一段時間內將仍然存在一個利基市場。

這些信息分發服務中的每一個旨在為互聯網打下基礎,使其成為不受單個參與者或政府控制的手段。因此,分散存儲系統實際上是一大套創造互聯網價值的工具的一部分。


分享到:


相關文章: