從對自動駕駛最初的狂熱中冷靜下來後，現在，越來越多的人開始接受一個事實：自動駕駛技術已頗為成熟，但想看到一輛輛自己打著方向盤的車輛開上馬路，我們的“有生之年”未必夠用。
自動駕駛面臨的問題很多，不只關乎技術，更難的是 Corner Case（極端場景）的收集，以及規則、道德、倫理上的困擾。
比如，沒有站在斑馬線上的行人，還算不算人？
這看似是個無厘頭的問題，但對自動駕駛來說卻很難。至少 2018 年 3 月撞向 Elaine Herzberg 時的 Uber 自動駕駛，就在這個問題上猶豫了。
最近，在事故發生 20 個月後，NTSB（美國國家運輸安全委員會）終於公佈了 Uber 致死案的“結案報告”。
這份 400 多頁的文件，還原了事發前的全部細節，我們也得以一窺自動駕駛的另一面困境。
這“生死6秒”中到底發生了什麼？
2018 年 3 月 18 日晚上 10 點，一輛 Uber的自動駕駛汽車在亞利桑那州坦佩市以 43.5 英里/小時（約 70 公里/小時）的速度行駛。
測試車是一輛沃爾沃 XC90，車內有一位安全員，但車子完全處於自動駕駛狀態。
車子駛向事發的路口時，Herzberg 正騎著自行車要穿越馬路。
撞擊發生前 5.6 秒，車子搭載的激光雷達檢測到了 Herzberg，此時她距離斑馬線大約還有 109 米。
理想狀態下，傳感器收集的信息會迅速傳輸到計算系統，由算法判定 ta 是行人、車輛、路牌還是建築，並分析運動軌跡，做出是否避讓的決策，最後由電子系統執行，完成一個信息處理的閉環。
然而，Uber 的自動駕駛卻在算法環節卡住了。
不遵守交規過馬路的行人是種不太極端的 Corner Case，但 Uber 的自動駕駛團隊顯然沒考慮過類似情況，在 Uber 的算法中，在斑馬線外的行人，並沒被劃分到“人”的範疇內。
於是，Uber 的無人車犯起了“選擇困難症”。
接下來性命攸關的 4 秒鐘裡，算法不停進行著自我博弈。推著自行車的 Herzberg ，先是被歸“其他”類別；一秒之後，修改為“車輛”；之後，系統數次在“其他”與“車輛”之間變換選擇…
直到撞擊發生前 2.6 秒，無人車終於認出了“自行車”；但緊接著，Herzberg 又變回了“未知物體”…
Uber 的算法決策基於這樣的邏輯：系統通過監測物體的位移來預測其運動軌跡。當與自身行駛線路發生衝突時，再從物體動勢來判斷採取何種應對措施，是避讓，還是緊急制動。
這一機制本身沒什麼大問題，但問題是，Uber 的設置中，一旦系統改變了對物體的分類，此前的追蹤軌跡也會被放棄。
這就意味著，當無人車系統頻繁更改對 Herzberg 的分類時，Uber 的軌跡追蹤機制徹底就崩盤了——在無人車眼中，Herzberg 和她的自行車始終處在靜止狀態。
碰撞前 1.2 秒，系統終於確認了面前不斷逼近的是一輛“自行車”。
如果此時車輛緊急制動，事故或許不能完全避免，也能最大限度減小對 Herzberg 的傷害，但這種可能性也被 Uber 的系統調教否決了。
雖然“ Safety First ”被奉為自動駕駛的第一準則，但“安全”和“舒適”的博弈也無處不在。
2017 年 8 月，現任 CEO Khosrowshahi 上任不久後，Uber ATG 部門高管就在內部郵件中，要求工程師“禁用緊急剎車和急轉彎功能”，他們聲稱這個措施的目的是考慮“乘客體驗”，將每次乘車過程中的“不良體驗”數量控制在一次以內。
據 Business Insider 報道，工程師們被迫在安全方面做出了讓步，但一直對此憂心忡忡。
更雪上加霜的是，高管決定裁撤一名車內安全員。這就意味著，一名安全員要同時完成監控路面、上報車輛狀況，並協助識別物體的工作。
於是悲劇來了。
當 Uber 識別出 Herzberg時，車輛仍然處於無法緊急制動的狀態，系統根本剎不了車。更糟的是，系統甚至都沒有對安全駕駛員發出警告。當玩手機的安全員有所察覺，踩下剎車時，一切已經於事無補了。
0.2 秒後，車輛以 65Km/h 的速度撞飛了 Herzberg。
這是自動駕駛歷史上的第一起致死案件，直接導致了 Uber 自動駕駛停擺 9 個月，也將當時人們對於自動駕駛技術的懷疑推至了頂峰。
而現在，新報告揭開的另一層真相，又將我們引向了新的迷思——在自動駕駛時代，是否人類才會是真正的馬路殺手？
這起事故後，“避讓斑馬線外橫穿馬路行人”已經被加入了 Uber 無人車的規則中，但如果我們再將問題推進一步：當闖紅燈的路人與車輛安全發生不可避免的衝突時，該如何取捨呢？
以前，“老司機”們會下意識做出某種選擇，這取決於 Ta 個人的人生經驗、文化背景、價值觀等。但在自動駕駛時代，這些選擇是被代表的，掌控在系統團隊、算法工程師手中。
於廠商而言，這是個一道無解的“電車難題”。
有人試圖通過民意投票來得出答案。從 2014 年開始，MIT 的研究人員就在網上推出了一套名為“到的機器”的遊戲，用來徵集人類對無人車各類道德困境的意見。
上線四年來，MIT 已收集到來自全球四千萬份數據，讓它成為了有史以來全球最大規模的道德偏好研究之一。
人們對某些原則達成了一致意見，比如，無人車應該視人類生命權高於動物、拯救更多人（而非少數）和年輕的生命（而非老人）。但在另一些方面，比如怎樣應對違反交通規則的人群的問題上，仍然分歧巨大，而且彼此不想被對方代表。
“所有生命都應該被平等對待”雖是普世原則，但真正實現還是難如登天。
畢竟，自動駕駛放在未來任何一個時間點上，都不單單是一個技術問題，超越技術之後，更多社會、道德與倫理困境，才是決定它落地的關鍵。
閱讀更多 NEXTTECH 的文章
