人工智能科学家本·格策尔认为“定义一套伦理原则、把它作为机器伦理的核心路线，恐怕毫无希望。”
2017年7月德国提出了全世界首个自动驾驶汽车伦理准则，一共20条，尝试通过伦理准则来约束制造商。核心的原则包括：其一，优先保护人类，牺牲动物或者其他财产都是允许的；其二，道德困境之下的决策依赖于现实的具体情况，不其二，道德困境之下的决策依赖于现实的具体情况，不可能被清楚地标准化，因此也不可能被事先编程；其三，在事故不可避免时，禁止基于年龄、性别、生理或心理状况等进行歧视；其四，把选择权留给人类。此外，德国还强调通过技术防范伦理困境，包括事先制定防范伦理风险的策略、保障公众的知情权、对已交付的系统进行监督、改进等。与之相反，美国交通部2016年将伦理问题作为自动驾驶汽车15项安全评估标准之后，2017年却将其从中删除。
给机器提伦理问题，是不可能有答案的，其实根本上还是人与智能机器的伦理问题，需要厂家在软件中设置一些规定条件。
不久前，德国联邦参议院通过了首个自动驾驶相关法律，允许自动驾驶在特定条件下代替人类驾驶。法律要求，如果是在人类驾驶的情况下发生事故，由驾驶员承担交通事故责任；如果是自动驾驶系统原因引发的事故，则由汽车制造商承担责任。因高度或全自动化汽车的系统故障而导致事故中的人员伤亡，受害者可获得的最高损害赔偿额将升至一千万欧元，比目前适用的驾驶事故最高赔偿额高出了一倍。
从表面上看法律的界定是很明确了，但是L3存在人工驾驶与自动驾驶模式切换的问题，而这种切换可能存在延迟（不光人有延迟，汽车也会有延迟，比如Waymo在亚利桑那州凤凰城推出的商用自动驾驶出租车服务中，有时车辆会在左转弯时“犹豫不决”），如果恰好在切换的那几秒钟发生事故，那么权责就难以准确界定。
德国自动驾驶车辆法律规定，所有自动驾驶汽车都必须安装类似飞机上“黑匣子”的装置，用于记录相关系统运行，以及人工介入操控和人工驾驶等不同阶段的详细情况。通过“黑匣子”的辅助可以查明，如果事故发生在人工驾驶过程中，则相关责任由驾驶员承担。如果事故是自动驾驶系统失灵等原因所致，则需要自动驾驶汽车制造商来承担责任。
这部法律还规定，自动驾驶汽车驾驶位置必须有司机、必须保留方向盘、油门和刹车等配置，这样可保证驾驶者能随时介入人工驾驶，也是自动驾驶系统出现故障情况时的必要防范措施。对于未来自动驾驶汽车进入第 4 级和第 5 级而言，这种规定非常必要。
德国的立法还是把在L3级别功能启动的情况下，驾驶员义务丝毫没有改变，要时刻保持清醒，这比开一辆传统汽车要求还要高。日本也采用这个思路，通过法律法规告诉所有的消费者，你的驾驶义务丝毫没有改变。
美国则要求厂家对消费者进行充分的教育，使其了解自动驾驶功能的使用方法。
一般认为，至少在汽车实现自动驾驶的初期，大多数用户将是有执照的司机。比如第一个允许自动驾驶汽车进行路测的内华达州规定，以自动驾驶模式操控自动驾驶汽车的人必须持有该州获得“G”签证的驾照，确认自己一向遵守交通规则和其他法律，并根据州机动车管理署的要求向该部门提交这些相关信息。
而加州要求所有自动驾驶汽车的驾驶座上必须始终乘坐一名拥有驾照的人士，并要求汽车在设计方面必须拥有方向盘、油门踏板、制动踏板等传统机动车具备的基本操控装置，以便具有驾驶资质的人在自动驾驶汽车失灵时可随时接管汽车的操作。
閱讀更多 光速車聞 的文章
