西雅圖Artefact設計公司創新提出了一種防止自動駕駛汽車做出道德生死抉擇的方案。
假設場景來到2030年的城市，人類突然穿梭在正常行駛的無人駕駛汽車前，那麼這輛車將被迫做出一個瞬間兩難決定——一是在路邊的一個燈柱上轉彎，後果可能會傷害到它的乘客；二是與行人碰撞，但後果可能是傷害行人，甚至奪走行人的生命?
一直以來這個道德困境都讓汽車公司和無人駕駛汽車企業無所適從，所幸Co.Design提出了這個創新性的方案設計，並要求各公司能夠解決。例如有公司設計出道德操控方向盤，還有設計公司提出製造一個可以飛的車載充氣氣囊，在面對自傷還是他傷時，氣囊帶著司機安全逃離。
總部位於西雅圖的Artefact公司則提出創建了一個基於物聯網的數字安全網絡，包括基礎設施傳感器、行人監控安全設備以及自動駕駛汽車等共同組成的系統協調控制運行，從而保證汽車不會出現需要作出道德決定的機會。
創意執行總監John Rousseau表示“我們甚至不會讓人們用他們自認為可靠的道德經驗去做決定。我們的方法是承認其混亂，到今天為止，可以說沒有一個系統是完全完美的，這本身就是人類和技術之間關係的一個部分。我認為設計更為完美安全的系統的效果比用人類自身的判斷要更好。”
Arefact公司的設計理念是基於15年後我們的世界到處都有網絡連接的數字設備，諸如各種監控器，傳感器，攝像頭，智能相機等，可以隨時隨地的保證一個巨大的多設備網絡，其中不乏有著人工智能計算機的身影。人工智能可以協調彙總各種數據，並傳輸回系統，以確保人們在朝街道等意外高發方向移動時的安全，整個系統會自動識別並立即做出無人受到傷害的方案指令。
這個概念的具體細節目前尚未明瞭。可以想象到的是能夠立即撥打行人的電話（或者增強現實眼鏡），或者指示所有路面上行駛的前後車輛要避開行人。這個系統可能會設置一些障礙去隔離保護所有行人，但最具有風險傷害的是乘坐無人駕駛的乘客，系統會限定非常慢的行駛速度以此完全的從實質上消除車禍帶來的嚴重風險。
做道德決策問題不是說把關於決定誰生和誰死都推給AI來最後判定？不，完全不需要。
Rousseau認為這種概念可以類比為空中交通管制中心的未來版。人們可以用電腦來決定飛機的起降落的順序和時間，並且這會極大的降低人員的傷亡數字和避免起降落的失敗，這就是真正的後勤工作。這就是他所設計的在後臺電腦所運行的數字安全網絡。它根本不是做道德決策，而是做後勤工作。“必須有一個系統性的全局觀和一個能夠協調所有設備的智能行為。”他說，“我認同空中交通控制是做對策算法的觀點，而不是做道德決策的觀點。”
這不一定可以有效降低人們受傷害的可能性，因為所有的系統都不是完美無缺的，但是Rousseau的觀點是我們應該集中精力製造出最好的系統，“我認為我們有點陷入機器是道德的代理人的觀點，這無疑引起了大部分人的恐慌。但我也同樣認為這是一個無法解決的問題。”
Artefact公司提出了這一個引人注目的未來設想。
但有一個問題：資產屬性。
誰能擁有控制這些系統和設備，他們的目的動機又是什麼？Rousseau認為“我們必須要把這些設備系統看作是公共財產，而不是個體資本的財產。科學技術的創新主要是在資本的裹挾之下進行的，我同樣認為這會導致我們走向反烏托邦的後果。”
閱讀更多 志剛水煮通信 的文章
