不久前，科技愛好者告訴我們，到2020年，我們將看到自動駕駛汽車成為主流，路上行駛的汽車約有1000萬輛。結果證明那是一種過分的高估。實際測試中的車輛數量要小几千倍，而且它們仍然主要在受控條件下行駛。正如頭腦清醒的交通專家告訴我們的那樣，各家公司也縮小了自己的野心，更多地著眼於司機支持，而非完全自主。
但放緩研發速度或許也無妨，因為這將有助於提高汽車安全性，並讓工程師有時間準備應對其他威脅，比如黑客將汽車變成破壞性武器。慢的推出也讓我們有機會形成一些社會共識內置的道德自主車，這將不可避免地面臨決策與道德意義——被迫選擇，例如，造成汽車的乘客之間觸及朝樹或附近的行人。
當某些情況出現時，程序員必須讓汽車準備好做出這樣的決定，而且他們需要一些合理的依據。這種需求催生了一個有點奇怪的研究聯盟，因為職業倫理學家與人工智能專家並肩工作。在找到可接受的解決方案之前，我們還有很多要學習的地方，還有很多要犯的錯誤。
到目前為止，只有一個國家的政府為自動駕駛汽車的決策制定了實際的指導方針。這個國家就是德國，那裡的官方指導方針採取了一種強烈的平等主義觀點，即在不可避免的事故情況下，任何基於個人特徵(年齡、性別、身體或精神體質)的區分都是嚴格禁止的。它還禁止相互抵消受害者。減少人身傷害的一般規劃可能是合理的。
這個職位試圖避免任何對一個人與另一個人的權衡——男性與女性，老人與年輕人，熟練的外科醫生與當地不法之徒。在這種觀點看來，所有的人都是平等的。這似乎很自然，儘管這種平等主義的觀念可能會與當地道德態度的文化差異相沖突，這一點從一項對人們道德直覺的大型調查中可以清楚地看出。
幾年前，研究人員通過一個網站收集了全球233個地區、跨越多種文化的人們的4000萬個選擇，這些選擇涉及理論上的自動駕駛困境。他們發現，儘管人們通常將人類的生命置於動物的生命之上，他們希望拯救更多而不是更少的生命，但他們也傾向於拯救年輕人而不是老年人。來自中美洲和南美洲國家的人傾向於優先考慮女性的生活和身體健康。在許多地區，人們也表現出對社會地位高的人的偏愛——看重高管而不是無家可歸的人。
這類研究為真正的道德偏好提供了一個粗略的指南，以及它們如何因地而異，對工程師來說，試圖與它們保持一致可能是一個不錯的起點。即便如此，調查也不能成為唯一的指導，因為普遍的道德態度會隨著時間而改變。歷史上，在許多地方，儘管大多數人普遍認為種族主義或性別歧視是不道德的，但明確的種族主義或性別歧視價值觀仍然佔據著主導地位。
一些專家認為，識別可靠規則的更好方法是將基於調查的方法與基於道德哲學家提出的主流倫理理論的分析相結合。一個人可以從公眾的觀點開始，然後通過道德理論的過濾，看看一個規則，經過更仔細的審查，是否真的站得住腳。倫理學家將那些經受住考驗的觀點稱為“被洗白的偏好”。例如，所有的倫理理論都會排斥對一種性別的偏好，即使調查發現在某些地區存在這種偏好。相比之下，想要拯救最多的人的偏好會倖存下來，就像想要拯救最年輕的人而不是最年老的人一樣。
在這個明顯混亂的領域，政策將必須以經驗和理論的某種混合來指導。當一輛自動駕駛汽車做出了一個選擇，並導致一些兒童死亡時，人們不會很清楚這個決定是如何做出的。但人們想知道。工作中的規則最好能經受住系統的道德審查。
