編者按：本文由「圖普科技」編譯自What do AI and blockchain mean for the rule of law?
多年來，企業家們一直都在關注著傳統的法律程序，削減成本讓他們眼前一亮，“簡化”一詞頻繁出現在他們口中，但是在人工智能技術面前，早期的法律創新也黯然失色。人工智能具有變革性的潛力，而且人工智能算法已經在逐步融入到法律程序中——在這個過程中也許在改變法律本身的底線。
但是，如果決策是由離散數據集訓練出的算法模型自動作出的，或者是通過嵌入區塊鏈的執行策略而作出的，那麼法律保護如何得到保障呢？
這些問題正是著名的法律學家和哲學家Mireille Hildebrandt將在一個五年項目中研究的問題。這個五年項目研究“計算機法律”的影響。“計算機法律”一詞屬於Hildebrandt首創，她是布魯塞爾自由大學法律、科學、技術和社會研究小組的成員之一。
上個月，歐洲研究委員會資助了Hildebrandt 250萬歐元進行雙重技術的基礎研究：人工智能法律智慧和區塊鏈的法律應用。
接受TechCrunch採訪時，她用“十分抽象也十分實際”來形容她的項目，她稱該項目將同時吸納律師和計算機科學家參加。她的目標是提出一種新的法律解釋學，律師可借住這個框架處理計算機法律架構，瞭解其侷限和作用，能夠提出正確的問題以評估那些不斷被用來評估人類的技術。
她解釋道：
我的想法是律師和計算機科學家合作理解他們所面臨的問題，希望律師可以思維敏捷、擅長分析且與計算機科學家坦然相處，真正理解彼此的語言。
我們並不打算去開發一種新的通用語言。這也是行不通的，我堅信這一點。但是他們必須能夠理解一個術語在對方學科的含義，學會溝通和妥協，他們必須看到兩個領域的複雜性，不要將事情簡單化。
在瞭解其複雜性後，能夠向相關的人，即我們這些民眾——闡釋，使得民眾能夠在政治和日常生活中作出正確的決定。
Hildebrandt表示，她把人工智能和區塊鏈技術納入項目內容，是因為二者提供了“兩種不同類型的計算機法律”。
當然也有可能將二者結合起來應用——在法律技術背景下創造出“全新的風險和機遇”。
Hildebrandt認為區塊鏈“凍結了未來”，這也從側面承認了在法律背景下，比起AI，她對區塊鏈技術更加持有懷疑態度。
一旦你將想法置於區塊鏈中，任何改變都是非常困難的。因為當這些規則自我強化後，如果你想做出任何改變，那麼你不僅將在金錢、努力、時間方面付出高昂的代價，同時不確定性和混亂出現的幾率也會增加。
你可以大把花錢，但是當政府參與時，事情就不一樣了，因為他們不可能只是花錢。
儘管如此，但她也認定在未來的某個時刻，區塊鏈會成為一個極好的替代機制，例如，幫助各州和公司選定一個不太複雜的方法來確定全球稅法規定的義務。（假設可以達成任何此類協議。）
鑑於互聯網平臺在跨國開展業務和與管理不同管轄區域和政治期望時產生的法律合規問題的複雜性，在未來某個時刻，可能需要新的應用規則系統，且將策略導入區塊鏈可能成為解決所有交叉混亂的一種重要方式。
但是，Hildebrandt對基於區塊鏈的法律合規體系這一構想仍持謹慎態度。
該項目的另一個研究領域是人工智能法律智慧，她清楚地瞭解其巨大的潛力，當然也存在有風險。
“人工智能法律智慧意味著你可以使用機器學習來進行論辯挖掘——即對大量的法律文本進行自然語言處理，並試圖總結論述。”她舉了個判斷涉案人員是承包商還是員工的例子來解釋說明。
“在美國和加拿大，這對公司和員工都會產生巨大的影響，如果他們弄錯了，稅務局可能會直接走進來給他們開一筆鉅額罰金，還會追回大量金錢，這可能超出他們的承受能力。”
由於該地區的判例法十分混亂，多倫多大學的學者開發了一種AI——通過挖掘大量相關法律文本歸納出特定情況下的一系列特點，用於檢查涉案人員是否是員工。
“簡單來說，他們在尋找一種數學函數，能將輸入數據（大量法律文本）以及輸出數據關聯起來。在這種情況下，無論您是員工還是承包商，都可以輕易辨識。如果這個數學函數在數據集中始終或幾乎始終都正確，則稱之為高精度，我們將使用新的數據或分離的數據進行測試，驗證它是否仍然準確。”
鑑於人工智能依賴數據集來推導算法模型自動作出主觀法律判斷，律師將需要了解如何處理和檢查這些技術結構以確定AI是否合法。
有誤差的數據集不可能會形成高精度的數學函數。如果你的AI參與了對人進行主觀法律判斷，那麼高精度的數學函數就不是一件可有可無的事了，而是必須。
“將要使用的技術或正在投資的法律技術都需要律師對最終結果進行解釋——因此，不要說‘哇，這有98％的準確性，簡直比最好的律師還棒！’ 他們應該說‘啊，好吧，能讓我看一組測試後的性能指標嗎？ 嗯，謝謝，你為什麼不使用這四個指標，是因為它們的準確度低嗎？……你能給我看一下你的數據集嗎？ 你的假想是怎麼設定的？ 你為什麼要過濾這些論點？’
律師必須要對這樣的對話感興趣，並從中找到樂趣。這是一個非常嚴肅的事情，因為法律判決對人們的生活有很大的影響，但關鍵在於，律師應該從在法律中解釋人工智能的結果中獲得樂趣。他們應該有能力談論自執行代碼的侷限性——因為這也是項目的另一研究重點，即區塊鏈技術的法律應用。
當談及‘不可變性’時，可以說不可變性意味著如果將所有內容都放入區塊鏈之後，突然發現這是一個可自動執行的錯誤，你將要花費大量的金錢和精力來修復，或者是談論‘不可靠’時，你會說我們不應該相信這些機構，但我們應該相信我們不瞭解的軟件，我們應該信任各種中間人，也就是在其他類型的分佈式分類帳中無許可的挖掘工，或者其他類型的中間商。
我希望律師能夠從中獲得有力的證據，找到切實的論辯，真正理解機器學習的偏見所帶來的影響和後果”
她接著舉例說明了紐約大學AI Now研究所正在進行的研究，並據此來研究人工智能系統的影響和處理。
“這是一方面的問題，但我認為還存在更多的問題”，她在談論算法歧視時補充道。 “所以這個項目的目的是讓大家一起溝通合作，去理解這一點。
“我認為這對於律師來說非常重要，他們不需要成為計算機科學家或統計學家，而是要真正理解法律領域內正在發生的變革，然後才能分享，為面向文本的法律方法做出貢獻。
我的研究全是圍繞著文本進行的，但是當我們有能力使用非文本法規時，我們必須也要做好準備。實際上，我認為這已經脫離了法律的範疇。
那麼，如何平衡我們真正理解的事情——文本，和律師並不理解的其他方法？......而且公民也不理解這些方法。”
希爾德布蘭特認為使用人工智能法律智慧技術挖掘論辯將會被“善意利用”—— 例如，AI可以用於評估特定法院作出的判決的質量。
儘管如此，她提醒說，任何此類系統的設計都需要經過深思熟慮。
“一種愚蠢的做法是僅給算法提供大量的數據進行訓練，然後說‘嘿，那是不公平的，哇，這是不允許的’。 但你也可以鄭重考慮所需要的向量，以及如何進行標註。
然後你可能會發現，比如說，該法院的判決要嚴格得多，因為警方提交法庭的案件一定不會簡單，但警察都是善意的，他們經常與公民交談，所以如果公民犯的事沒有那麼嚴重，他們會試著用另一種方式解決問題，而不是訴諸法律。
因此，該法庭審理的案件都十分嚴重，因此相比其他接受所有警察或檢察官提交案件的法庭，該法院判處的刑罰要重得多。
要理解這些，僅僅看法律文本當然是不夠的。你還得了解警方數據。如果不這樣做，就算你的準確性很高，得到的也是完全無意義的結果，因為它並不會告訴你任何你所不知道的事情。但如果你以另一種方式來處理，你將面對帶有各種偏見的人們，並從挑戰中獲得樂趣。
然而，這種處理方式不應將太多的事情視為理所應當。
我的想法是，這個工作的唯一方法就是在系統的設計階段將許多不同的人聚集在一起，無論是當你決定要根據哪些數據來訓練時時，或是正在開發機器學習者所謂的“假設空間”時，或是試圖建模時。 當然，你應該測試5個、6個,甚至7個性能指標。
這也是人們應該談論的內容——不僅僅是數據科學家和律師，還包括公民，因為我們對法律問題的處理將影響公民生活。
而且我絕對相信，如果你能採取更巧妙地方式，那麼你可以獲得更強大的應用程序。但這樣做的激勵機制可能並不明顯。 因為我認為法律技術可以被用於降低成本。”
她表示，該研究項目的關鍵概念之一是法律保護機制設計——探討其他有趣的（而非令人擔憂的）問題，比如 ‘犯罪前’檢測由AI進行驅動，無罪推定會發生什麼變化？
“如何設計這些系統，以使他們在上市的第一時間就能夠提供法律保護，而不是對原有的進行補充。當然這不僅僅涉及到數據保護，同時關係到非歧視原則和特定消費者權益”，她說。
“我一直相信，無罪推定與法律保護機制設計息息相關。因此，這需更多的考慮警方和情報部門。如何幫助情報部門和警方購買或開發具有某些侷限的信息與通信技術（ICT），使其遵從無罪推定原則。但這並不是一件容易的事，我們可能不得不重新設定無罪推定的判定標準。”
這項研究雖比較抽象，但卻十分必要。Hildebrandt指出，人工智能和區塊鏈這兩大正在研究的技術，已經應用於法律語境中，儘管仍處於“試驗狀態”。
而且，技術推動的法律在未來必須無差別推進，否則風險很大。
“歐盟和各國政府熱衷於試驗......但試驗在哪些方面已經停止，或系統在哪些方面已經應用，並影響了與你我生活息息相關的決策，這些並不是那麼容易被發現的，”她補充道。
此外，她希望，該項目能夠提出一種法律解釋方法，幫助律師和律師事務所駕馭可作為其推銷亮點之一的法律技術。
“很顯然，市場上將會出現很多濫竽充數的法律技術。”她說，“這是不可避免的，法律技術將成為一個競爭性的市場，裡面有好的有壞的，但要準確區分並不容易。因此，我相信通過這個基礎性項目的研究，你將更容易找到兩者的不同，並做出正確的判斷。這關乎一種思維模式，一種瞭解這些事情重要性後的思維模式。
“我個人十分認同敏捷和精益計算。不要做毫無意義的事情，所以我希望這會為人們帶來優勢，幫助他們跳過一些荒謬的方法論，從而脫穎而出。”
【鈦媒體作者介紹：本文由「圖普科技」編譯，微信公眾號：tuputech，體驗基於深度學習的「圖像識別」應用】
更多精彩內容，關注鈦媒體微信號（ID：taimeiti），或者下載鈦媒體App
閱讀更多 鈦媒體APP 的文章
