多年以后，当人工智能的机器大军四处围猎人类残部时，躲在阴冷地堡中的人类战士夜深难眠，回忆着人机大战的遥远开端：从1988年开始，“深思”、“深蓝”、“AlphaGo”等先后在象棋、围棋领域击败人类，人类的荣耀便日趋衰落⋯⋯
幸好，这种惨淡未来，只是笔者构想的虚拟图景。当然，这也绝不是杞人忧天，对未来的悲观预言是为了警醒当下世人：面临正在开启的“人工智能纪元”，我们必须尽早建构一种稳妥的科技伦理，以此来引导人工智能的研发方向和应用领域。本文并不细数人工智能伦理的微观条款，而是基于人类价值观和认识论的演变，从科幻文学的角度探讨人工智能伦理的历史脉络，并推演未来可行的发展方向，既展现世界视野，也兼顾中国话语。
人工智能一词在1956 年的达特茅斯会议上被首次提出。作为一门新的交叉学科，目前主要涉及计算机领域，它试图了解人类智能的实质，进而生产出一种媲美人类智能的软件系统、机器人、仿生人或赛博格，乃至全面超越当今人类的“新人”。当然，早在人工智能这个词被明确提出之前，人类对“人造智能生命”的想象便早已开始，尤其和科幻文学有着千丝万缕的联系。
科幻文学中的人工智能伦理具有一定的前瞻性，并不受限于具体的科技进展，而是与人类的价值观演变息息相关，其中不仅有对科技的反思，也包含着复杂的神学焦虑和哲学思考。概言之，西方文学中人类对“人造智能生命”的态度，大体经历了从拒绝接纳，到奴化控制，再到交融共生的三个发展阶段。西方的基督教神学传统和人类中心主义哲学，以及对现代性的反思是推动其不断深究这一问题的文化根源。相对而言，基于阴阳五行、万物有灵的传统思维，以及对现代性的乐观认知，近代之前的中国文学几乎不关注人工智能伦理问题；此后，在西学东渐的时代变革大潮下，中国文学开始逐渐关注该领域，发出自己的声音，但现代性的探讨相对不足，在作品数量和理论深度方面均有待提升。
“人造智能生命”题材最著名的作品当推英国作家玛丽·雪莱1818年出版的《弗兰肯斯坦——现代普罗米修斯》，这也是世界科幻文学的肇始之作。小说的副标题隐喻了古希腊神话中普罗米修斯造人的故事，但与神话中普罗米斯修对人类无限眷顾，甚至不惜盗天火的自我牺牲精神相反，作品中的造物主始终不愿接受这个外表丑陋的智能生命，也因此引发一系列残酷冲突。这部作品给后人留下了很多值得深思的伦理问题，譬如：一旦“人造智能生命”产生后，其行为是否应被纳入人类的伦理准则？人类是否要担负起使其生活幸福的责任？遗憾的是，玛丽·雪莱并没有回答这些问题，对“人造智能生命”持否定态度的她，从根本上拒绝讨论伦理建构的可能性。
在之后的很长一段时间，不少作家对人工智能的态度和玛丽·雪莱相似，其笔下的“人造智能生命”在没有被纳入社会关系之前，便直接或间接地将创造者杀死。譬如，《白鲸》的作者麦尔维尔在《钟楼》中描写敲钟的智能人偶杀死了自己的制造者；另一位美国作家比尔斯在《莫桑的主人》中描述智能人偶因输掉棋局而释放高压电流杀死主人。需要说明的是，这一阶段对人工智能的称谓大都是Automaton。据《牛津大词典》记载，该词最早出现于1611年，意指借鉴钟表齿轮技术而制造的自动机械人偶，和后世文学中的高智能人造生命差距较大。
此外，还有一类对人工智能持否定态度的作家，他们作品中的造物者虽然没有被杀死，却都是反面形象，“人造智能生命”也最终被损毁。较早的作品有德国作家霍夫曼的《沙人》。小说描写神秘人物“沙人”制造出女性智能人偶，后因事迹败露，人偶在争抢中被肢解，迷恋她的男主角也疯癫而亡。此类作品最具代表性的当属法国作家维里耶·德·利尔-亚当的小说《未来夏娃》。作者把当时还在世的爱迪生描述成偏执而又诡异的发明家，他为好友埃沃德制造了一个和真人女性极度相似的智能机器人哈德莉。但最终哈德莉却死于一场海难。在这部小说中，智能机器人一词为Android。据OED记载，该词最早形态为Androides。“andro”在希腊字源中指的是“人类”，而“eides”意为“形状”，两者相连就有了“具备人体特征”之意。如今，人们在使用Android一词时，一般特指拥有人类形体的智能生命体。
上述作品有一个共同点，即科学家的创造活动还只属于个体行为，被造出的单个智能生命在没有得到社会承认之前，便以悲剧收场。笔者以为，这种否定立场的背后隐喻有西方社会普遍存在的神学焦虑。按照基督教的观点，人的自由不是无边的，必须承认自身的局限性，保持对上帝的敬畏之心。在人的众多定限中，最重要的一点便是在道德方面：人类无法实现道德完美，掌握先进科技的人在道德上未必良好。那些“造人”的科学家在挑战上帝权威方面，很像魔鬼撒旦。狂热的他们让生命进化脱离了自然演变的过程，进而释放出无法预料的破坏性力量。最终，人类不但不能控制自己的创造物，反而被置于死亡的恐怖境地。有鉴于此，作家们通过文学作品发出警示：不负责任的滥用科技，不论是以求知的高尚名义，还是以赚钱享乐为目的，都是违背人伦的！然而在现实社会中，人类探索生命奥秘的努力并未因此而止步，反而有加速迹象，这就注定了人工智能伦理问题必然会在后世文学中被不断提及。
1920年，捷克作家卡雷尔·恰佩克通过剧作《罗素姆的万能机器人》将“造人”科学家的个人悲剧放大为全体人类的末世审判。大众所熟知的Robot一词便源于该剧，词源为波兰语的“强迫工作”和“工人”。显而易见，该词隐喻了机器人服务人类的劳工地位。剧中的机器人由工厂批量制造，外表和人类毫无二致。人类为了从日常劳动中解脱出来，大量使用这种机器人。后来，机器人不再服从奴役，转而发动战争消灭了人类。恰佩克的这种悲观看法是当时人们对人工智能人拒斥态度的典型代表。这种观点认为，虽然人类好逸恶劳的本性决定了人工智能一开始会被广泛接受，但随着科技进步引发的不确定风险加剧，一旦人工智能站到人类的对立面，人类将遭受灭顶之灾。此类文学作品有很多，譬如美国作家约翰·坎贝尔的《最后的进化》，莱斯特·雷伊的《为人类复仇》等。
时至今日，这种“人工智能危险论”依然拥趸甚众，科技大佬比尔·盖茨、埃隆·马斯克以及著名物理学家史蒂芬·霍金，都对人工智能研发持审慎态度。《终结者》、《骇客帝国》等经典科幻电影更是将这一观点渲染得妇孺皆知。很明显，对未来的悲观预言是为了警醒世人：如果人类必须要面对人工智能，就应尽早建构一种稳妥的科技伦理，以此来约束人工智能的研发方向和应用领域。
当然，尽管有不少作家将人工智能视为人类生存的威胁，但同时也有许多作家并不认可这种悲观预测，他们更愿意在作品中将人工智能描述为人类的得力助手，以服务人类为主旨。
此类较早的文学作品当推美国19世纪中后期的通俗小说。譬如艾立斯笔下的“蒸汽动力人”系列，塞纳任笔下的“电人”系列。[2]这些畅销小说，对当时的青少年产生了深远影响。小说中的人工智能虽然名称各异，也尚未具备高等智慧，但无一例外都是主人公冒险旅途中的好帮手，属于忠实的奴仆角色。
需要强调的是，即便在将人工智能视为人类威胁的作品中，以奴仆身份出现的人工智能往往也在一开始被社会广泛接受。这暗示了一条基本的伦理关系：人工智能天生为人类的奴仆。在西方文化传统中，思想界普遍认为人类高于其他物种，在等级关系中处于上层。譬如，古希腊哲学家普罗泰戈拉声称“人是万物的尺度”；德国哲学家康德宣称“人是目的本身”。这些理论支撑起了人类中心主义伦理学，并对大众产生了深远影响。从这一角度来看，人和人工智能分属两种生命形式，后者没有理性和灵魂，只能算是有生命的工具。人类作为高等智慧生命可以奴役低等生命，而不用背负道义上的责难。
不过，人类中心主义的伦理学在处理这种关系时有着很大缺陷。这种内隐的等级制和丛林式的强者逻辑，是人类控制人工智能的伦理依据，但进步的科技很可能在将来颠覆二者的强弱对比。正如黑格尔在《精神现象学》中阐释的“主奴关系辩证法”，主人和奴仆的地位是会互相转化的。在神话中，神创造了人类；在现实中，人类则造出了人工智能。当人类难以脱离人工智能而独立生活时，就已经很难区分两者之间的控制关系，更何况“造反”的人工智能凭借自身的强大力量，转而奴役或灭绝处于劣势的人类。基于这一逻辑，将人工智能视为人类生存威胁的观点并非危言耸听。
然而，在现实社会，人工智能的研发并未因这种恐惧而止步，反而有加速迹象。毕竟很多相关从业人员并不赞同这种悲观预测，他们认为人工智能虽然具有强大的运算及自我学习能力，却没有智慧，只要人类设计出精妙的程序，就能够控制人工智能。此类观点以美国作家艾萨克·阿西莫夫拟定的“机器人三定律”最为著名。该观点在小说《环舞》中第一次明确提出。1950年出版的小说集《我，机器人》则系统阐释了“机器人三定律”：“第一，不伤害定律：机器人不得伤害人类，也不得见人受到伤害而袖手旁观。第二，服从定律：机器人必须服从人的命令，但不得违反第一定律。第三，自保定律：机器人必须保护自己，但不得违反一、二定律。”这三条定律在制造机器人的伊始便被嵌入其大脑，永远无法消除。毋庸置疑，阿西莫夫的贡献是巨大的，其后的文学作品，如果不是专门讨论人工智能伦理问题，基本都会遵循该定律来叙事。
在三定律的背后，是阿西莫夫为了确保人类的统治地位，而设想了一种符合康德“绝对律令伦理学”的人工智能。众所周知，康德探讨的是关于绝对律令的普遍道德法则，他在《道德形而上学基础》中强调：人应当只按照普遍法则行动。在康德看来，既然不能说谎成为普遍法则，那么向一个杀手说谎也是不应该的。很明显，这与人类依据现实情境而调整的“弹性”伦理完全不同。康德的原本思路是：在认识领域“人为自然立法”，在道德领域“人为自己立法”。阿西莫夫却巧妙地将两者结合，把康德给人类自己的立法原则转移给了机器人，将其设定为符合绝对伦理法则的群体。
从语义逻辑的层面来看，阿西莫夫的三定律似乎完美化解了前人对人工智能“造反”的担忧，但仔细分析，依然有很多漏洞，这里仅举最重要的四点。
第一，技术上难落实。三定律所要解决的是人机之间的伦理困局，但很多伦理问题，连人类都无法做出适宜的应对策略，更何况受由人类研发的人工智能？再者，人类虽然能在一开始控制人工智能，但却无法保证越来越先进的人工智能永远处在人类的掌控之中。
第二，现实中不可行。三定律应用在复杂多变的现实社会，常常会捉襟见肘，有时甚至会引发自相矛盾的窘况。阿西莫夫本人也意识到了这一点，因此对三定律的修改成为他后期作品的主线。在《可以避免的冲突》中，机器人为了避免人类个体彼此伤害，便限制人类的行为，转由机器人掌控一切。这促使阿西莫夫补充了“第零定律”：机器人不得伤害人类整体，或袖手旁观坐视人类整体受到伤害。原先的三定律都要服从第零定律。但是，这条定律的最大问题就是：机器人如何权衡自己当下的行为会不会伤害人类整体？后来，其他学者也提出了修正建议，最著名的当属保加利亚作家狄勒乌在小说《伊卡洛斯之路》中提出的“第四定律”：机器人在任何情况下都必须确认自己是机器人。但这些修补并不能改变固有的设计缺陷。
第三，忽视了人类和机器人的情感问题。众所周知，人类的情感世界是非常复杂的。也许机器人保姆把某些人抚养长大后，他们之间会产生类似亲情的感情，譬如阿西莫夫的小说《罗比》。另外一些人和机器人长期相处，可能会产生类似友情的感情，譬如美国作家迈克尔·雷斯尼克的小说《知己》。更有人甚至和机器人坠入情网，并最终成婚，譬如莱斯特·雷伊的小说《海伦·奥勒》。也许旁观者无法理解，但当事人会认为这份感情和人类之间的感情一样珍贵。很明显，机器人三定律无法处理这些棘手的感情问题。似乎只有打破二者的主奴关系，才有解决的希望。在这方面，可以借鉴亚里士多德在《尼各马可伦理学》中提出的观点，他承认主奴之间可能存在的“友爱”关系，原因在于两者都有“灵魂”。亚里士多德认为：“奴隶是有灵魂的工具，工具是无灵魂的奴隶。作为奴隶对它是不存在友谊的。然而，他可以作为人，对于一切服从法律，遵守契约的人，他们之间似乎有某种公正，作为人当然有友谊。”比照而言，当机器人有了感情之后，也就脱离了纯工具的范畴。此时人类应本着智慧而有责任的原则，建立一种新型的人机关系。
第四，回避了一个本体论问题——何为“人”？作为斯芬克斯之谜，人类对这一问题追问了数千年。笔者在此主要探讨“人”的资格的获得问题：到底是自然遗传属性，还是社会文化属性决定了“人”的身份？抑或是二者兼具？从三定律所代表的人类中心主义伦理观来看，人类中的白痴生下来便享有基本的人权，在等级方面位列人工智能之上，而后者即便掌握了人类的文化，也不能跻身人类之列。意大利作家科洛迪的《木偶奇遇记》可以视为这一等级关系的绝佳隐喻，如果没有仙姑的帮助，善良的木偶匹诺曹即便历尽千辛万苦，也不会变成“人”。难能可贵的是，阿西莫夫在后期作品《两百岁的人》中打破了传统观念。小说描写机器人安德鲁为了成为真正的人，逐步将自己的机械零件替换成活体器官，终于在两百岁生日的弥留之际，以死亡的代价获得了人类的承认。
显然，以阿西莫夫为代表的乐观派，对人工智能危险论的补救并不成功。毕竟，站在人类中心主义伦理观的立场上，从“主奴二元对立”的逻辑出发，很难构建起稳定的人工智能伦理，亟待提出更新型的思考路径。
20世纪中期以后，随着科技进步，特别是人造器官的研制，人类逐渐打破肉体禁忌，将一些机器部件纳入血肉之躯，譬如植入大脑的芯片，广泛使用的义肢，不可或缺的心脏起搏器。按照这一发展趋势，也许在未来社会，人类和人工智能的区分将不再是泾渭分明的。
1960年，为了解决未来人类在星际旅行中面临的困难，美国航天医学领域的科学家首次提出赛博格概念。Cyborg是神经控制装置与有机体的混写，科学家希望通过向人体移植辅助的神经控制装置，以增强适应外太空的能力。作为能够自我调节的人机结合系统，赛博格既拥有机器运作精确、寿命长久的优点，也具备人类的特质，比如感情和理性。至此，人和机器这两个原本对立的概念，终于共存于赛博格这一生命体中。不过，在科学界提出该设想前，文学界的相关创作早已展开。
英国作家奥德尔的《发条人》可以视作最早的赛博格题材作品。小说描述在人脑中植入时钟发条，用以控制整个人的言行。作者意在批判世人对技术的盲目崇拜和滥用。有鉴于此，后世作家大多绕开对人脑的改造，而集中描写身体的机械化，塑造出一系列正面的赛博格形象。相对于纯钢铁架构的传统机器人，人机合体的赛博格形态更容易被接纳为“人”。不过，赛博格作为一个比较学术化的词，在诞生之后很长时间并没有被大众所了解，直到20世纪70年代，美国文学界涌现了一批以赛博格为主角的科幻小说，该词才广为大众熟知。代表作品有罗维克的《当人成为机器时》，波尔的《升级人》。这些作品大多描写人的躯体被机械化改造，以完成太空开发等特殊任务。该类小说连同随后的影视改编，在世界范围产生了广泛影响。
一种观点认为，赛博格必须保留人体关键的神经系统，比如大脑和脊髓，否则就属于传统意义上机器人的范畴。如上文所述，就目前而言，人类很难将传统的机器人接纳为“人”，即便其无论在外形，还是在思维方式上，都和人类并无二致。严格来说，阿西莫夫《两百岁的人》中的安德鲁，恰恰是因为使用有机神经耗尽了电子脑，才以死亡的代价换来了赛博格身份。笔者以为，如果说赛博格反映了人类的逐渐机械化，那么人工智能则从反方向体现了机器的逐渐“人化”，而双方的发展轨迹最终会碰撞在一个根本的哲学问题上，即“何为人？”到那时，人类和人工智能的界限将更难以划分。
其实，随着科技的发展和时代的演变，关于“人”的定义也是不断转变的。古希腊文学中的斯芬克斯之谜，实际上是一个如何区分人与兽的哲学命题，隐喻人类文明进程的开始。而科幻文学对于人工智能伦理的一再探讨，则暗示了传统意义上的“人”逐渐死亡，宣告着后人类时代的即将来临。
从哲学角度看，作为一种知识和概念的“人”是有始有终的。法国哲学家米歇尔·福柯在《词与物：人文科学考古学》中提出了“人之死”的观点，这里的人是指人文科学意义上的人，即有关人的观念和学说。[4]按照福柯的分析，“人之死”是以康德的人类学为基础的哲学的消失，是19世纪以来以人为中心的现代知识形态的消失。尽管福柯没有明确指出将会出现何种新的知识形态，但旧有的肯定不再被奉作金科玉律，这其中当然包括人类中心主义伦理学。与福柯同时代的哲学家让-弗朗索瓦·利奥塔，也针对这一问题提出了自己的思考。他执著于“无躯体能否思维”的探索，并最终从时间的恒久流溢性角度给出了肯定回答。
1982年，美国《时代》周刊把计算机选为“年度人物”，戏剧性地向全世界宣告后人类时代的到来。作为一种理论思潮，后人类主义形成和发展于20世纪80年代。面对人体不断被高科技改造的潮流，不少人相信自然的进化最终将让位于人工进化，进而出现在体能、智力、寿命等各方面都超越当今人类的“后人类”。该理论的代表人物是唐纳·哈拉维，其发表于1985 年的《赛博格宣言》可谓纲领性文件。哈拉维认为高科技文化对既存的二元论思考提出了挑战。作为“社会现实和小说的共同创造”，赛博格是一个打破自我和他者界限的合体，是介于人与机器之间的一种“后人类”。[6]1992年，欧美国家举办了一系列名为“后人类”的展览。在配合展览出版的《后人类》一书中，作者强调科技进步“挑战了旧人类的终结，以及后人类开始的界线”，“达尔文的人类进化论也将进入下一个阶段”，[7]显然，在后人类主义看来，当今人类只是从猿进化到后人类的一个过渡阶段。但关于后人类的具体形态，因其充满着各种杂糅、跨界的可能，目前没有人能给出准确的预测。
閱讀更多 在樹下看星星 的文章
