人工智能犯錯，誰負責？

□章小兵 王曉楠

人工智能概念自1956年“達特茅斯會議”首次正式提出，歷經起步發展期、反思發展期、應用發展期、低迷發展期、穩步發展期和蓬勃發展期，人工智能技術迅猛發展，讓人們看到了科技對於生活的改造，如：餐飲服務機器人、醫療機器人、無人駕駛汽車等等。但隨之而來且無法規避的一個問題是：當人工智能犯錯，誰該負責?

案例回顧

2018年3月18日晚十點左右，美國亞利桑那州一名女子被Uber一輛處於上路測試階段的自動駕駛汽車撞傷，之後不幸身亡。這是全球首例自動駕駛車輛導致行人死亡的事故。事發時，儘管有一名司機坐在方向盤後面，但是這輛車當時正處於自動控制模式。

自然人具備法律主體資格，法人具備法律主體資格，機器“人”是否具備?如果不具備，如上述事故導致的法律責任應該如何承擔?

探討

眾所周知，當前人工智能無論如何先進，最終都是機器做出決策。面對各種複雜的意外情況，提前把所有的可能性都輸入(機器學習)，只要它的“大腦”學習過就可以應對，類似於歐美法系中的“判例法”。但現實生活中的意外情形不可能窮盡，加之機器卡頓、系統延遲、感應器失靈等等，人工智能犯錯註定無法規避。

迴歸上述案例，誰該為此次事故造成的損失負責?自動駕駛汽車?車內方向盤後的“司機”?被撞身亡的行人?還是汽車製造者Uber?

當前普遍認為應該由Uber承擔相應責任，筆者附議。基於中國法律法規分析如下：

第一，從案例回顧看，無證據顯示受害方在事故發生時存有過錯，也未見任何法定需基於“無過錯責任”承擔責任的情形，依據《中華人民共和國侵權責任法》，受害方無需承擔本起事故造成的損失，反而其親屬可向致害方依法主張賠償。

第二，車內“司機”雖然坐在方向盤後面，但未實際駕駛車輛，對事故發生無過錯，且無法定需基於“無過錯責任”承擔責任的情形，無需承擔法定責任。

第三，無人駕駛汽車是一種通過電腦系統替代人類進行駕駛操作的智能汽車，又叫輪式移動機器人。然現行所有法律法規未明確機器人具備法律主體資格，其不可能承擔任何法律責任。所以說John Frank Weaver在《機器人也是人》中寫到，如果我們希望讓機器人為我們做更多的事情，那麼我們可能就需要賦予他們法律主體資格。

第四，驅動汽車的算法、感應器以及所有控制系統，均是Uber設計和研製，無論是哪一環節的問題導致本起事故，通常情況下都可以理解為產品缺陷，根據侵權法第四十一條“因產品存在缺陷造成他人損害的，生產者應當承擔侵權責任”之規定，Uber公司應承擔相應的法律責任。

建議

可以預判在未來非常長的時間內，人工智能不可能規避犯錯。建議相關職能部門能夠出具標準、規範或指導意見等等，進而緩和前沿科技的迅猛發展與立法步伐的滯後之間的問題。

(作者單位：章小兵，德聯易控科技(北京)有限公司;王曉楠，中意財產保險有限公司)

鏈接

自動駕駛的級別劃分

L0級自動駕駛：無自動

油門、剎車、方向盤全程皆由駕駛者掌控，它是最普通的駕駛方式，包括定速巡航，只能設定固定的速度，車輛不會自動調整速度，如加速/減速或駕駛員的操作需要。

L1級自動駕駛：駕駛操控為主，系統適時輔助

主要還是由駕駛者操控車輛，但在特定的時候系統會介入，如ESP電子車身穩定系統或ABS防鎖死剎車系統，主要用於提高行車安全性。

L2級自動駕駛：部分自動化，駕駛者仍需專心於路況

第二級自動駕駛可說是目前各大車廠的主流，如果第一級自動駕駛儀是輔助油門和剎車的話，第二級是添加到方向盤，如特斯拉自動駕駛儀，沃爾沃飛行員協助，梅賽德斯-奔馳驅動試驗等，車輛的速度和轉向可以在一定的條件下控制。

L3級自動駕駛儀：有條件自動控制，該系統可自動控制車輛在大多數路況下，駕駛注意力不需專注於路況

相較於第二級還是需要駕駛專注於路況且雙手須置於方向盤，第三級自動駕駛儀可以在一定條件下分散注意力，而不關注路況，雙手甚至可以離開方向盤。

L4級自動駕駛：高度自動化，還是具有方向盤等界面提供駕駛適時操控

車輛在啟動自動駕駛後，計算機將在目的地設置後按自己的路線行駛，無需干預全面駕駛，但只需在高速公路或市區等特定區域進行干預，但它已經能夠處理大部分的“動態驅動任務”。在第四級自動駕駛儀階段後，仍處於研發階段，市場上沒有第四種自動駕駛技術的汽車。

L5級自動駕駛：全自動化，人類完全成為乘客

第五級自動駕駛車輛將完全自動化，車上甚至連方向盤等駕駛機構都不需要，完全透過電腦感知與運算來駕駛車輛，不論任何環境、路況，都不需要人類駕駛介入操控。

(根據資料整理)

“放手”帶不來從容

□王薇

雖然現階段的L2級輔助駕駛並不那麼可靠，但並不妨礙汽車廠家在宣傳上的投入，甚至出現“有一種從容叫放手”這樣明顯違反現階段汽車駕駛安全規範的廣告語。由於車廠在宣傳時的有意無意，讓一部分駕駛者認為“開著(特斯拉)AP節省精力”“開著AP可以回微信”甚至是“開著AP可以睡一覺”。但車廠在宣傳上可以越界，在需要負法律責任的使用說明上就不同了，特斯拉AP對駕駛員的要求是：開啟期間，你必須要時刻關注路況，同時你的雙手必須放在方向盤上。“這既是特斯拉AP的官方使用說明，同時又是免責條款”。但有多少人認真閱讀並嚴格按照說明操作呢?

這就是問題了。現階段的L2級輔助駕駛，完全像一個第一天上路的新手，對道路上的複雜情況基本處於無所適從的試探階段。

今年8月，在重慶舉辦的中國國際智能產業博覽會上，2019 i-VISTA“中國電信5G杯”自動駕駛汽車挑戰賽吸引了大量關注度。挑戰賽共包括四大賽項，包括ADAS駕駛輔助系統挑戰賽，自動駕駛城市交通場景挑戰賽，自動駕駛創新應用挑戰賽，自動駕駛商業化進程挑戰賽。AEB挑戰賽設置目標車靜止(又稱故障車避撞)、行人橫穿(又稱行人鬼探頭)兩個場景，每個場景設置3個工況：車速30 km/h、40 km/h、50 km/h，APS挑戰賽設置垂直車位、平行車位、斜向車位三個比賽場景，參賽車輛需完成車位自動搜索並泊車入位。參賽的智能汽車涵蓋了主流品牌車型，其中既有特斯拉Model X、奔馳E200、寶馬530Li、沃爾沃S90、豐田凱美瑞、大眾CC等進口及合資品牌車型，也有紅旗H5、魏派VV6、吉利博越、長安CS95等自主品牌車型，還包括小鵬G3等造車新勢力品牌車型。AEB故障車避撞場景，專業車組和個人車組所表現出的普遍問題是，30km/h、40km/h工況下AEB功能正常觸發率比較高，而且國產車型在這兩個工況下，表現得非常優秀。但是50km/h工況下，大部分車型的AEB功能不能觸發，個人組29款車型中，只有豐田凱美瑞2019款2.0 G豪華版、沃爾沃V60智雅兩款車型的AEB功能正常觸發。專業組和個人組在AEB故障車避撞比賽中的前10名，參加AEB行人鬼探頭場景的比賽。但是除了專業組一個車隊在30km/h工況下成功剎停，其他全部折戟。

此次挑戰賽的結果，明確告訴駕駛者，即便開啟輔助駕駛功能，也仍然要保持專注，甚至可能要付出比主動駕駛更多的精力，以便隨時接管車輛。那些認為開啟輔助駕駛功能就可高枕無憂的想法，無疑會將汽車變成道路上的一顆定時炸彈。