無人駕駛，法律你準備好了嗎？
來源：https://cacm.acm.org
編譯：plus評論員 張濤
雖然文章的標題是“無人駕駛，法律你準備好了嗎”，但我仍然認為美國法律已經決定了要接納自動駕駛汽車。法院幾百年來不斷遭遇各種新技術的出現，而法院也必須對這些新技術產生的法律問題做出決定。未來法庭可能必須要面對的一個問題就是當自動駕駛汽車或自動駕駛系統普及以後，如何解決各種當前無法預見的傷害？
我們可以設想自動駕駛汽車被廣泛使用的場景，自動駕駛比人類駕駛更加安全，人們可以在車輛行駛的過程中看電影、發郵件。法庭雖然很容易地決定誰應當對偶然發生無人駕駛汽車事故負責，但一些權威人士和法律界人士對此頗為不滿。當有人創造出一個能夠讓人們安全地運動的產品時，法官就會把這種責任分配給事故汽車製造商。也會有一些比較難判斷和決定的案例。政策的制定者必須在無人駕駛汽車上路前給出無人駕駛汽車上路的安全要求。
未來可能會出現這樣的場景，人類和自動駕駛系統都可以參與但未參與的情況下，法院又將必須確定責任劃分，這將陷入一個困境。如果法院發現有人類司機可以承擔責任，也會避免機器去擔責。另一方面，也要限制和防止公司將責任轉嫁到車主身上，因為公司會要求車主點擊同意服務條款協議。
在去年致命的特斯拉撞車事故中，死者司機承擔了使用自動駕駛的風險。今年，一輛Uber的無人駕駛汽車撞死了行人，但行人不該承擔這樣的責任。然而在一個新技術的時代裡，傳統法律亟需解決這些棘手的新問題。Uber會對被撞者家屬進行賠償，否則法院將出面解決。
對於自動駕駛，面臨的另一個問題可能就是“新電車難題”，自動駕駛汽車將必須做出細粒度的道德決策，以決定在發生事故時要殺死誰。我們可以想象一個駕駛技術特別差的機器人在駕駛時發現它必須做出“殺掉”某人的決定。同時，機器人會進行復雜的權衡來實時地做出殺掉一個小孩還是三個老人的抉擇。
技術對法律的挑戰並不會隨著時間和空間的推移而變化，但無人駕駛可能會，因為技術可能會給現有的法律體系無法預測的一個新穎的啟示。
我們可以假設另一個場景，未來在無人駕駛領域有一個製造商能夠脫穎而出。其車輛不僅不需要乘車者在保持相當高的安全記錄的同時駕駛，而且可以自適應地減少其對環境的影響。該系統的設計者不僅提供了更大的燃料效率，還能夠保持與道路行駛法規相一致。在一個月左右部署完成後，車輛發現如果用充滿電的電池運行的話，會更高效。因此，汽車決定在車庫裡通宵運行燃氣發動機，但這會殺死家裡的每一個人。
我們可以想象如果汽車的設計師們出庭的時候，他們肯定會否定關於發生的這一切。他們知道無人駕駛的汽車可能會發生事故。他們知道燃氣可能會耗盡，也可能把乘客撞死。但他們從沒想過汽車會通過一氧化碳中毒殺人。
乍一看，這與無人駕駛汽車事故一樣容易，但可能並不是。即使在嚴格的責任制度下，不需要在被告身上發現意圖或過失，法院仍需要原告表明被告至少可以預見所發生的損害類別。相關的法律術語是“因果關係”。因此，一家用炸藥拆除建築物公司需要對由於爆炸引起的振動而使附近的停車場倒塌的事故負責，即使該公司使用的是中最佳做法。但是，在1954年華盛頓的法庭上，拆遷公司並不對爆炸場地附近的水貂養殖場中的水貂因為震動而本能地吞噬它們的幼崽的行為負責。前者的傷害是可預見的，因此是公平的責任基礎；而第二種傷害則不是。隨著越來越多的自適應系統進入現實世界，法院將不得不重新審視這種“可預見性”的作用在“因果關係和公平”中的基本作用。
系統設計師扮演什麼樣的角色呢？當然，我不建議將修改或出現作為研究目標或系統特徵。事實上，機器在解決問題方面越來越有用，因為它們以人類意想不到的方式去解決問題、發現模式和實現目標。
儘管如此，我還會提一些想法供大家參考。
首先，對於嘗試預測機器人行為和減輕傷害的工具的投資是值得的。密歇根大學就建造了一個人造城市（環境）來對無人駕駛汽車進行測試。虛擬環境雖然可以用來研究機器人與複雜輸入的交互作用，但不能預測所有可能的行為。但是在投放在公路之前，我們對自動駕駛系統的瞭解越多越好。
第二，非常重要的一點是研究人員應當被允許甚至被鼓勵測試這樣的的系統。公司和監管者應當支持對自動駕駛技術的研究，以瞭解可能的反應。最接近的類比應當是安全生態中的漏洞獎勵計劃；至少，服務條款協議應該聲明針對安全相關關鍵的研究是受歡迎和支持的，不會遭到訴訟。
最後，目前的人工智能浪潮之前有一波同等重要的互聯浪潮。研究互聯的公司目前正在將智能產品互聯，這可能會帶來問題，但同時也是一個好的監控的機會。
所有的這些干預方法都不是萬能的，不能解決所有問題。但好消息是我們還有時間。從法學教授的觀點來看，包括自動駕駛汽車在內地第一代主流機器人並沒有給法律帶來真正的難題。但下一代可能就會帶來問題了。在此期間，我希望法律和技術界可以攜手努力解決技術不確定性產生的法律不確定性問題。
Ryan Calo
民法教授，華盛頓大學法學副教授，研究自動駕駛汽車近10年
（全文完）
《中國電子科學研究院學報》歡迎各位專家、學者賜稿！投稿鏈接
http://kjpl.cbpt.cnki.net
學報電話：010-68893411
學報郵箱：[email protected]
閱讀更多 信息與電子前沿 的文章
