行人横穿马路，刹车来不及，如果不转向，会撞死行人；如果转向，乘客会死于翻车。
自动驾驶汽车应该作何选择？
这个问题已经迫在眉睫。自动驾驶汽车是最接近大规模商用的人工智能应用。
无论中国，还是美国，多家公司已经上路实测，不止一家宣布要在一两年内推出自动出租车。
有汽车就有事故，有事故就有死伤，由人工智能来断谁该死谁该无恙，它该怎么断？
—般来说，对社会而言，救多个人比救一个人更有效用，救人比救动物更有效用。
研究者发现，效用主义深入人心，绝大多数人支持用效用主义来给自动汽车编制算法。
但是，如果你是坐在车里的乘客呢？
以我为例，我认可效用主义算法，但如果自动汽车按这个算法来作选择，我却不想坐更不会买。救多个人优于救一个人，哪怕这个人是乘客。
这样做决定的自动汽车，你敢坐吗？你想买吗？
我们希望买的是那种永远优先保护乘客的自动汽车。
也就是说，绝大多数人都支持自动汽车使用功利主义算法，支持别人买这样的车，但自己不买。
这就会造成典型的社会困境。你希望别人做的事，自己不做。
结果就是谁也不做，最后这种自动汽车根本就没人买。
功利主义不行，并不是说换个算法就行？
假如换个算法，永远优先保护乘客，你倒是愿意买了，但公众能允许这样赤裸裸地以行人为壑的做法吗？
电车难题是这样的：电车失控，转向要伤人，不转向也要伤人，如果你是司机，该作何选择？
百年来各种道德思想流派竞相抢答，没有一个公认的正解。
今天无非是我们把司机换成了人工智能。
难道自动驾驶汽车就上不了路了吗？
这倒绝不会。
第一个思路：摆脱困境的思路来自人工智能专家。他们认为既然解决不了这个问题，那就消灭它。
谷歌的自动驾驶工程师说，道德算法是假问题。自动汽车能高速处理速度、距离、路况、天气等信息，用激光雷达和各种传感器提前感知，提前计算出最合理方案，使那些难以抉择的危险情境根本就没有机会发生。
问它撞一个人还是撞两个人，这个问题它回答不了，但是这问题在它那里不存在。工程师对技术魔法有谜之自信，不管你信不信，反正我是不信。
第二个思路：是寻找与困境并存的策略。
人类古往今来一直在做这件事。电车难题、人工智能的道德算法，本质上都是把悲剧分配给谁的问题。
在理论上不存在满足各种公平正义要求的正解，但实践中则随时随地都在分配，一刻也没有因为不够公平而停止过，问题只在于它是如何分配的。
现阶段惟一确定的就是不管用哪个算法，都必然将制造属于它特有的那一类悲剧，等到这些悲剧沉重到社会必须切换另一种悲剧来承受时，齿轮转动，算法重置，悲剧的分配重新开始。
互动
如果你是乘客，你愿意让人工智能汽车在面对可能的车祸是，替你作出决定吗？
如果愿意，你希望他用哪些道德算法来做决定？
閱讀更多 作家林寒 的文章
