点击上方“社会科学报”关注我们哦！
“
随着人工智能和机器人技术的发展，自主性日渐增强的机器已经出现在金融、军事、电力控制、交通运输等领域，并且在可展望的未来仍将飞速拓展其应用空间。
原文 ：《谁的道德？什么样的道德？》
作者 | 西安交通大学 李颖娜
图片 |网络
如果说机器获得和人同等水平的道德后，可能出现的种种困境还只是远虑，那么如何让越来越具有自主性的机器根据符合人类道德标准的决策去行动则是近忧了。《道德机器：如何让机器人明辨是非》（王小红译，北京大学出版社，2017.11）是美国认知科学哲学家科林·艾伦（Colin Allen）和技术伦理专家温德尔·瓦拉赫（Wendell Wallach）合著的一部机器道德领域的开创性著作，其关注点已经超出了人类如何使用计算机之类的应用伦理学问题，而跨进到该如何建构有道德的机器这一直指实质的问题。
—
《道德机器：如何让机器人明辨是非》
王小红译
北京大学出版社
2017.11
一开篇，作者就介绍了目前具有一定自主性的机器系统所存在的道德盲区，引发读者对制造道德机器的重视。有道德的机器绝不会自动出现，而是需要人为的设计和干预。作者关注目前的机器人系统，发现要么是自主性和道德敏感性都很低的系统，尚处于完全受设计者和使用者控制的“操作性道德”区域内；要么是自主性高而伦理敏感性低、或自主性低而伦理敏感性高的系统，只具备有限的“功能性道德”。作者分别描述了它们的局限性，并指出，如何让具有高度自主性的机器人成为道德主体，即人工道德智能体（AMAs），亦即书名所谓的“道德机器”，这是摆在伦理学家、哲学家、认知科学家和机器人学家面前的难题。
日剧《安堂机器人》中的杀手机器人剧照
本书的主旨意在探讨如何建构成功的AMAs。当进入实践层面，一些复杂的问题仍会浮现出来。AMAs将贯彻谁的道德标准？怎样的道德程序？作者承认构建AMAs有不同路径，聚焦于构造满足外部评价标准的道德机器的实践目的，探讨伦理学家应如何和工程师通力合作，使得道德机器实现道德决策能力。
总括地说，有两种设计思路，即自上而下进路和自下而上进路。前者指的是设定一套可以转化为算法的伦理规则，用它来指导设计执行规则的子系统，这样，AMAs有道德的行动就转变为遵守规则的问题；后者指的是不预先给定伦理规则，而是创造环境让AMAs自主地探索学习，当其做出道德上良好的行为，给予积极反馈使之得到强化。当然，两种进路都存在一些问题。对于前者而言，无论采取功利主义还是道义论所支持的普遍原则，都会遇到具体规则如何与首要原则自洽、难以落实的计算复杂性等问题。采用后者则会面临当环境变化时如何适应、难以确定AMAs是否会产生出复杂的道德判断能力等问题。
基于以上分析，作者瞩目于未来用联结主义网络来开发具有美德的系统，这采用的是两者混合式的进路，既强调一定的伦理原则的重要性，又具有一定的灵活度拓展行动的范围。在理论探讨以外，本书后面几章还介绍了设计AMAs的一些近期的具体实践，如关注道德决策的MedEthEx等软件系统、具有一定具身认知、社交能力等超理性能力的机器人Leonardo等、基于全局工作空间理论整合理性推理与情感的LIDA模型，这些AMAs的前沿实践各有一些生动有趣的进展，它们区别于科幻片的未来狂想，展示了道德机器的真实发展水平和趋势。
在AMAs完全实现的时代，人与机器将如何进行合乎道德的行为交互？作者视其为未来主义的问题而予以搁置，但这还是探讨“道德机器”的题中应有之义。对于这个世界上可能发生的无穷个事件和可能存在的无穷种角色来说，“道德的”不是一个非真即假的判断。仅就作者所初步揭示的，机器道德问题已经有着足够的复杂性，而且也是对人类道德的巨大拷问。
在机器人那端，作者未充分展开的AMAs实现“谁的道德和什么道德”就隐含了人类不同意识形态的冲突，机器人会是人类群体冲突的新战场吗？而在人类这端，无论将AMAs作为“士兵”、“伴侣”还是“奴隶”，试想，如果机器人展现出足以通过对比道德图灵测试的道德能力，那么如何对待它们才是合乎人类道德的呢？将其作为实验品进行实验，根据最新的需求对其进行升级，性质上和二战期间纳粹分子囚禁犹太人做实验并且大批量地处死他们有什么本质区别吗？和基础医学研究领域用小白鼠做生理和药理实验，最终将其作为医疗垃圾处理有没有本质区别呢？前者现在已经为人唾弃，因为纳粹将犹太人视作劣等民族完全是偏见和鬼话。后者现在仍在时时上演，在人类利益面前，如何处理动物伦理问题还远未达成共识。如果把这种道德优越的机器人作为人一样来尊重，给予其足够的自由发展空间，机器人会不会对人类自身的生存和发展形成反噬？
尽管这些还只是一种未来主义式的推演，但已让人很难在罪感、无辜感和安全感面前保持心理平衡。关注如何教机器人辨别是非的工程实践，这固然踏实，但本书更重要的价值可能正在于，沿着作者的论证分析，读者不由得会进行更深入的思考，那些终究无法在工程实践内部消解的“谁的道德”和“什么样的道德”的问题。
文章原载于社会科学报第1611期第8版，未经允许禁止转载，文中内容仅代表作者观点，不代表本报立场。
相关文章
社会科学报
做优质的思想产品
官网
http://www.shekebao.com.cn/
閱讀更多 社會科學報 的文章
