送书福利|你的寿命延长了一百万年,然后呢?

送书福利|你的寿命延长了一百万年,然后呢?

送书福利|你的寿命延长了一百万年,然后呢?

多年以来,如何定义生命,是一个富有争议的话题,科学家们提出了各种观点,其中一些定义认为生命具有较高的特殊要求,例如:是由细胞构成,这就使未来人工智能机器和地外文明失去了"生命资格"。


在《生命3.0》这本书中,作者跨越了最长时间维度,从可见的智能潜入不可见的意识,重新定义了"生命"。生命,就是可以自我复制的信息处理系统。


这本30万字写就的诚意之作,霍金生前力荐,埃隆·马斯克为其疯狂点赞,尤瓦尔·赫拉利叹为影响深远之作……它在亚马逊排名Top1,并成功登顶《纽约时报》畅销书。论严谨,它堪称人工智能科普教材;论深远,它是人工智能危机应对指南;论畅快淋漓,它就像一本爽极了的科幻小说。


以下内容摘编自浙江教育出版社2018年7月新书《生命3.0》。参与文末留言分享活动,就有机会把这本书收入囊中哦!

送书福利|你的寿命延长了一百万年,然后呢?

《生命3.0》

作者:[美]迈克斯·泰格马克(Max Tegmark)

定价:99.90元

生命的三个阶段:生命1.0、生命2.0 和生命3.0

生命是什么?这个问题的争议之大,众所周知。关于这个问题,有许多不同的定义,其中的一些要求非常明确,比如要求生命由细胞组成。这种要求可能不太适用于未来的智能机器和外星文明。由于我们不想将我们对未来生命的思考局限在过去遇到过的物种,所以让我们将生命定义得更广阔一些:它是一个能保持自身复杂性并能进行复制的过程。复制的对象并不是由原子组成的物质,而是能阐明原子是如何排列的信息,这种信息由比特组成。当一个细菌在复制自己的DNA 时,它并不会创造出新的原子,只是将一些原子排列成与原始DNA 相同的形态,以此来复制信息。换句话说,我们可以将生命看作一种自我复制的信息处理系统,它的信息软件既决定了它的行为,又决定了其硬件的蓝图。

与宇宙自身一样,生命逐渐变得越来越复杂和有趣。现在,请允许我做一点解释。我发现了一个有用的方法,就是根据复杂程度将生命形式分成三个层次。这三个层次分别是生命1.0、生命2.0 和生命3.0。生命最早是在何时何地、以何种方式出现在我们的宇宙中的呢?这个问题依然没有答案。不过,有力的证据表明,地球上的生命最早出现在大约40 亿年前。不久之后,我们的地球上就充满了各种各样的生命形态。那些最成功的生命很快便从中胜出,并具备了某种与环境共生的能力。

具体而言,它们就是被计算机科学家称为"智能体"(Intelligent Agent)的东西:这种实体用感应部件收集关于环境的信息,然后对这些信息进行处理,以决定如何对环境做出回应。对信息的处理可以包括高度复杂的信息处理过程,例如,你能用眼睛和耳朵收集信息,并用这些信息来决定在一段对话中要说些什么;不过,它也可以只包括非常简单的硬件和软件。

生命为什么会变得越来越复杂?原来,足够复杂的生命会得到进化的犒赏,奖品是一种预测及利用环境规律的能力。因此,在越来越复杂的环境中,就会进化出越来越复杂和智能的生命。这个更加聪明的生命又会为竞争者创造出一个更加复杂的环境,而这些竞争者又因此而进化得更加复杂,最终创造出一个充满极端复杂生命的生态系统。

送书福利|你的寿命延长了一百万年,然后呢?

生命的三个阶段

生命1.0 在它的有生之年都无法重新设计自己的硬件和软件:二者皆由它的DNA 决定,只有进化才能带来改变,而进化则需要许多世代才会发生。相比之下,生命2.0 则能够重新设计自身软件的一大部分:人类可以学习复杂的新技能,例如语言、运动和职业技能,并且能够从根本上更新自己的世界观和目标。生命3.0 现在在地球上尚不存在,它不仅能最大限度地重新设计自己的软件,还能重新设计自己的硬件,而不用等待许多世代的缓慢进化。比如说,许多细菌都有感应器,用来测量周围液体中的糖浓度。同时,它们还拥有一种形状很像螺旋桨的结构,叫作"鞭毛",用来游泳。将感应器和鞭毛连接起来的硬件可能会执行下面这个简单却很有用的算法:如果我的糖浓度感应器发现周围液体中的糖浓度值比几秒钟前低,那么,改变鞭毛的游向,我就可以改变方向了。

作为一个人,你学会了说话,还学会了无数其他技能。但是,细菌却不是一个很好的"学习者"。它们的DNA 不仅规定了硬件的设计,比如糖感应器和鞭毛,还规定了软件的设计。它们永远学不到"应该游向糖多的地方"; 相反, 这个算法从一开始就" 写死" 在它们的DNA 中。虽然在细菌身上还是存在某种学习的过程,但这并不是发生在单个细菌的一生中,而是发生在细菌这个物种的进化过程中,通过之前许多代的试错,自然选择在DNA 的随机变异中选出了能提高糖摄入量的那些变异。其中一些变异帮忙改进了鞭毛等硬件的设计,还有一些变异改善了软件,譬如执行"寻糖算法"的信息处理系统。

送书福利|你的寿命延长了一百万年,然后呢?

这些细菌就是被我称为"生命1.0"的一个例子。生命1.0 是说:生命的硬件和软件都是靠进化得来的,而不是靠设计。不过,你和我却属于"生命2.0":生命的硬件是进化而来,但软件在很大程度上却是依靠设计的。在这里,"软件"指的是你用来处理感官信息和决定行动时使的所有算法和知识,从你识别某人是不是你朋友的能力,到你行走、阅读、写作、计算、歌唱以及讲笑话的能力,这一切都属于软件。

刚出生时,你是无法完成以上这些任务的。所有的软件都是后来在一个被我们称为"学习"的过程中编入了你的大脑。你小时候的课程表大多是由你的家人和老师设计的,他们决定了你应该学什么;不过,你会逐渐获得更多的权利,开始设计自己的软件。或许,学校允许你选修一门外语,那你想不想在大脑中安装一个法语软件模块或者西班牙语模块?你想不想学打网球或下象棋?你想不想成为一位厨师、律师或者药剂师?你想不想通过阅读一本书来学习更多关于人工智能和生命未来的知识?

生命2.0 能够重新设计自身的软件,这种能力让它比生命1.0 聪明许多。高度的智能不仅需要许多由原子组成的硬件,还需要大量由比特组成的软件。我们人类的大部分硬件都是出生后通过生长获得的,这个事实十分有用,因为这说明我们身体的最终尺寸并不局限于母亲产道的宽度。

同样地,我们人类的软件也是在出生后通过学习获得的,这个事实也十分有用,因为这说明我们最终能达到的智能程度不局限于受精时DNA所传递的信息量——这是生命1.0 的风格。我现在的重量比出生时重了25 倍,我脑中连接神经元的突触存储的信息比我出生时的DNA存储的信息多了大约10 万倍。突触存储着我们所有的知识和技能,大约相当于100 TB 的信息,而我们的DNA却只存储了大约1GB 的信息,还不如一部电影的容量大呢。因此,一个刚出生的婴儿不可能说一口流利的英文,也没法参加高考,而且这些信息无法预先被安装在他的大脑中,因为他从父母那里得来的信息主模块,也就是他的DNA,缺乏足够的信息存储能力。

送书福利|你的寿命延长了一百万年,然后呢?

设计软件的能力不仅让生命2.0 比生命1.0 更加聪明, 还让它们更加灵活。如果环境发生改变,生命1.0 只能通过多代进化来缓慢适应新环境,而生命2.0 却可以通过软件升级来立刻适应新环境。比如,如果细菌总是遇到抗生素,就可能在许多代之后进化出抗药性,但单个细菌并不会改变自己的行为;相反,一个女孩如果知道自己对花生过敏,就会避免接触花生。这种灵活性在群体层面上赋予了生命2.0 更大的优势。

即便我们人类DNA 中存储的信息在过去5万年都没有发生过什么大变化,但存储在我们大脑、书籍和计算机中的信息总量却仿佛发生了爆炸。通过安装一个允许我们用复杂的口语进行交流的软件模块,我们便可以将某人大脑中存储的最有用的信息复制到另一个大脑中,这些信息甚至在最初那个大脑死去之后,还可能继续存在。通过安装一个能让我们读写的软件,我们就能够存储和分享远超于人类记忆总量的大量知识。通过学习科学和工程学知识,我们可以开发出能产生科技的大脑"软件",任何人只需点击几次鼠标就能获得全世界的大部分知识。这种灵活性让生命2.0 统治了地球。

从基因的桎梏中解放出来之后,人类总体的知识量以越来越快的速度增长,一个突破接着一个突破:语言、写作、印刷、现代科学、计算机以及互联网等。人类共同的"软件"发生着空前快速的文化进化,这种进化逐步成为塑造人类未来的主要力量。相比之下,极端缓慢的生物进化开始显得无关紧要起来。

送书福利|你的寿命延长了一百万年,然后呢?

尽管我们今天拥有强大的科技能力,但从根本上来说,我们所知的所有生命形式都依然受到生物" 硬件" 的局限。没有人能活100万年,没有人能记住Wikipedia 的所有词条,理解所有已知的科学知识,也没有人能在不依靠航天器的情况下进行星际旅行。没有人能将很大程度上了无生机的宇宙转变成一个能繁荣亿万年的多样化的生态圈,从而让我们的宇宙最终发挥出所有潜能,并彻底苏醒过来。所有这些,都需要生命经历一次最终的"升级",升级成不仅能设计自身软件,还能设计自身硬件的"生命3.0"。换句话说,生命3.0 是自己命运的主人,最终能完全脱离进化的束缚。

这三个阶段之间的界限有一点模糊。如果细菌是生命1.0,人类是生命2.0,那你可以把老鼠看作生命1.1:虽说它们可以学习许多知识,但还不足以进化出语言能力,更不可能发明互联网。此外,由于它们没有语言能力,所以学到的大部分东西在死去后就丢失了,并不会传递给下一代。同样地,你也可以认为,今天的人类其实应该算是生命2.1:虽说我们可以对自身的硬件实施一些微小的升级,比如种植假牙、植入人工膝关节和心脏起搏器。不过,我们却没法做到"长高10 倍"或"把大脑容量扩大1000 倍"这种戏剧化的事情。

总之,我们可以根据生命设计自身的能力,把生命的发展分成三个阶段:

  • 生命1.0(生物阶段):靠进化获得硬件和软件;

  • 生命2.0(文化阶段):靠进化获得硬件,但大部分软件是由自己设计的;

  • 生命3.0(科技阶段):自己设计硬件和软件。

经历了138 亿年的漫漫进化之后,宇宙前进的步伐在我们的地球上开始猛然加速: 生命1.0 出现在约40 亿年之前, 生命2.0 出现在约10万年前, 而许多人工智能研究者认为, 随着人工智能的发展, 生命3.0可能会在一个世纪以内降临,甚至可能会出现在我们的有生之年。到时候会发生些什么?这对我们人类来说意味着什么?这就是《生命3.0》这本书的主题。

生命3.0 何时出现

这个问题极富争议,而且争议得十分精彩。全球顶尖的人工智能研究者不仅在做出预测时众说纷纭,他们的情绪反应也截然不同:有的是充满信心的乐观主义者,有的则怀有严肃的担忧;甚至于,对于人工智能会在短期内对经济、法律和军事方面造成什么影响,他们也都难以达成共识。如果我们将讨论的时间范围扩大一些,把通用人工智能,特别是达到或超过人类智能水平、使得生命3.0 成为可能的通用人工智能涵盖进讨论的话题,那么他们的分歧就更大了。与包括下棋软件等狭义人工智能不同的是,通用人工智能几乎可以完成任何目标,包括学习。

有趣的是,关于生命3.0 的争议围绕着两个而不是一个问题展开,这两个问题分别是"何时"和"什么",即如果生命3.0 真的会出现,那何时会发生?这对人类意味着什么?我认为,存在三个截然不同的学派。这三个学派都值得我们认真对待,因为它们之中都包括一些世界顶尖的专家。

送书福利|你的寿命延长了一百万年,然后呢?

我在图中描绘了这三个学派,它们分别是:数字乌托邦主义者(DigitalUtopians)、技术怀疑主义者(Techno-Skeptics)和人工智能有益运动支持者(Members of The Beneficial-AI Movement)。现在,请允许我向你介绍一些他们中最雄辩的支持者。

大多数关于强人工智能的争议都围绕着两个问题:如果真的会发生,何时会发生?它对人类是一件好事吗?技术怀疑主义者和数字乌托邦主义者都认为,我们不需要担心,但二者不担心的原因却很不同:前者相信,人类水平的通用人工智能在可预见的未来不会发生,而后者则认为,它当然会发生,但可以肯定地说,这绝对是一件好事。人工智能有益运动支持者则觉得,担忧是有必要和有用的,因为人工智能安全方面的研究和讨论会提高"结果是好事"的可能性。卢德主义者则相信,结果一定是坏的,所以反对人工智能。

数字乌托邦主义者:数字生命是宇宙进化的天赐之选

小时候, 我认为亿万富翁都是浮夸和自大的, 但2008 年,当我在谷歌公司遇到拉里· 佩奇时,他完全颠覆了我的刻板印象。佩奇穿着一条休闲牛仔裤,一件非常普通的衬衫。如果他坐在麻省理工学院的草地上,一定会迅速地融入野餐的人群。佩奇讲话的时候很温和,笑起来十分友善, 这让我在和他交谈时感到很放松, 没有一丝紧张感。

2015年7月18日,埃隆· 马斯克和他前妻塔卢拉· 赖利(Talulah Riley)在纳帕谷举行了一个宴会。在宴会上,我遇到了佩奇,聊起了我们的孩子对粪便的共同兴趣。我推荐了安迪· 格里菲思(Andy Griffiths)的经典作品《我的屁股发疯的那天》(The Day My Butt Went Psycho),佩奇马上就买了一本。我不断地提醒自己,他可能是人类历史上最具影响力的人:我猜测,假设在我的有生之年出现了吞噬宇宙的超级智能数字生命,这个决定应该就是佩奇做出的。

送书福利|你的寿命延长了一百万年,然后呢?

后来,我们与我们的妻子们——露西· 索斯沃斯(Lucy Southworth)和梅亚· 奇塔· 泰格马克(Meia Chita-Tegmark)一起共进晚餐。在席间,我们讨论了机器会不会产生意识这个问题。佩奇认为,这个问题是在混淆视听,并没那么重要。稍晚些时候,在鸡尾酒会之后,佩奇和马斯克展开了一场冗长但热烈的辩论,主题是人工智能的未来以及我们应该为此做些什么。

到凌晨时,围观者变得越来越多。我认为,佩奇激烈维护的观点正是我认为的"数字乌托邦主义者"特有的观点。这个派别认为,数字生命是宇宙进化自然而然、令人期待的下一步,如果我们让数字智能自由地发展,而不是试着阻止或奴役它们,那么,几乎可以肯定地说,结果一定会是好的。我认为,佩奇是数字乌托邦主义最具影响力的支持者。他说,如果生命会散播到银河系各处甚至河外星系(他认为这肯定会发生),那么,这应当以数字生命的形式发生。他最大的担心是,人们对人工智能的猜疑和妄想会延迟这个数字乌托邦的到来,而且可能会导致邪恶的人工智能发动军事叛乱, 接管人类社会, 违背谷歌" 不作恶" 的座右铭。

马斯克则一直还击,要求佩奇把观点讲得更详细一些,比如,为什么他如此相信数字生命不会毁灭我们关心的一切。佩奇时不时抱怨马斯克有"物种歧视":只因某些生命形式是硅基而非碳基就认为它们低人一等。

从第4章开始,我们会回到这些有趣的问题上,进行详细的探讨。在那个炎热夏日的泳池边,尽管佩奇似乎有些寡不敌众,但实际上,他极力维护的"数字乌托邦主义"拥有许多支持者。1988 年,机器人学家兼未来学家汉斯· 莫拉维克(Hans Moravec)写了一本经典著作《智力后裔》(Mind Children),这本书启发了整整一代数字乌托邦主义者。因此,这一观点得以延续下来,后来又被未来学家雷· 库兹韦尔(Ray Kurzweil)所提炼。理查德· 萨顿(Richard Sutton)是人工智能领域强化学习的先驱,在我们于波多黎各岛举行的会议上,他激情四射地捍卫了数字乌托邦主义。我之后会简略地给你讲讲这个会议的情况。

技术怀疑主义者:没有必要杞人忧天

有些思想家一点也不担心人工智能将会带来的影响,不过,不担心的原因却与数字乌托邦主义者截然不同。这些思想家认为,建造超人类水平的通用人工智能实在太困难了,没有几百年的时间,根本无法实现,因此没必要杞人忧天。我把这种观点称为"技术怀疑主义"。拥有"中国谷歌"之称的百度的前首席科学家吴恩达对这种观点进行了很好的阐释:"担心杀手机器人的崛起,就好像担心火星出现人口过剩一样。"

最近在波士顿的一场会议上,吴恩达再次向我重申了自己的这个观点。他还告诉我,他担心对人工智能风险的担忧可能会引导人们对人工智能充满恶意,从而制约人工智能的发展。还有一些技术怀疑主义者也发表过类似的言论,比如Roomba 扫地机器人和Baxter 工业机器人制作背后的原麻省理工学院教授罗德尼· 布鲁克斯。

送书福利|你的寿命延长了一百万年,然后呢?

吴恩达

我发现一个很有趣的事实:尽管数字乌托邦主义者和技术怀疑主义者都认为我们无须担心人工智能,但在其他事情上,两者的共同点却少之又少。大部分乌托邦主义者认为,与人类智能水平相当的通用人工智能可能会在20~100 年内实现,而技术怀疑主义者认为,这是一种乌托邦式的幻想,他们经常会嘲笑一些人预测的"奇点", 并将其戏谑为"书呆子的臆想"。2014 年12 月的一个生日宴会上,我遇到了布鲁克斯,他对我说,他百分之百地肯定,奇点不会发生在我的有生之年。"你确定你的意思不是99% ?"在后来的一封邮件中,我如此问道。他回复我说:"不是没用的99%。就是100%。奇点根本不会发生。"

人工智能有益运动支持者:人工智能的研究必须以安全为前提

2014 年6 月,我在巴黎的一家咖啡馆第一次遇到了人工智能先驱斯图尔特· 罗素,他是典型的英国绅士,彬彬有礼。而且,他能言善辩,思维缜密,语调温和,眼中闪烁着富于冒险的光芒。在我眼中,他仿佛就是斐利亚· 福克的现代版本。福克是儒勒· 凡尔纳于1873 年的小说《八十天环游地球》中的人物,是我童年时代心目中的英雄。虽然罗素是迄今在世的最著名的人工智能研究者之一,也是人工智能领域的标准教科书的作者之一,但他的谦逊和热情很快让我放松下来。他向我解释说,人工智能领域的进展让他相信,与人类智能水平相当的通用人工智能真的有可能在本世纪内变成现实。尽管他充满希望,但他明白,并不是百分之百会产生好的结果。我们必须先回答一些重要的问题,而这些问题又是非常难以回答的,我们应该从现在就开始研究,这样,到我们需要它们时,手边才会有现成的答案。

今天,罗素的想法比较符合主流的观点。全球各地有许多团队正在进行他支持的人工智能安全性(AI-safety)研究。不过,对人工智能安全性的研究并不是历来如此。《华盛顿邮报》一篇文章将2015 年视为人工智能安全性研究进入主流视野的元年。在那之前,对人工智能风险的讨论常常被主流人工智能研究者所误解和忽视,而且,他们将进行人工智能安全性研究的人视为企图阻碍人工智能进步并四处散播谣言的"卢德分子"。我们将在第5章继续探讨这个话题。

送书福利|你的寿命延长了一百万年,然后呢?

斯图尔特· 罗素

实际上, 与罗素类似的担忧最早是由计算机先驱艾伦· 图灵和数学家欧文· 古德在半个世纪之前提出来的,古德与图灵在第二次世界大战中一起破译过德国军事的密码。在过去的10 年里,关于人工智能安全性的研究主要由一些独立思想家来完成,比如埃利泽· 尤德考斯基(EliezerYudkowsky)、迈克尔· 瓦萨(Michael Vassar)和尼克· 波斯特洛姆(NickBostrom),不过,他们并不是专业的人工智能研究者。这些人的研究对主流人工智能研究者影响甚微,因为主流研究者总是聚焦于他们的日常工作——如何让人工智能系统变得更智能,而不是思考如果他们成功了会造成什么样的长期后果。我认识的一些人工智能研究者,即便他们心中略有迟疑,也不太愿意表达出来,因为担心自己会被视为危言耸听的技术恐慌者。

我觉得,这种有失偏颇的情况需要被改变,这样,整个人工智能界才能联合起来,一起讨论如何建造对人类有益的人工智能。幸运的是,我并不是孤身一人在作战。2014 年春天,我与我妻子梅亚、我的物理学家朋友安东尼· 阿吉雷、哈佛大学的研究生维多利亚· 克拉科芙娜以及Skype 创始人扬· 塔里安一起,成立了一个非营利性组织"未来生命研究所"(Future of Life Institute,简称FLI)。我们的目标很简单:保证生命在未来继续存在下去,并尽可能的兴旺发达。具体而言,我们认为,技术赋予了生命一种力量,这种力量要么让生命实现空前的兴盛,要么让生命走向自我毁灭,而我们更青睐前一种。

2014年3月15日,未来生命研究所第一次会议在我家举行,我们开启了一场头脑风暴。大约有30 人参加,与会者包括来自波士顿地区的学生、教授和其他思想家。会议在这个问题上达成了广泛的共识,那就是,虽然我们也应该关注生物技术、核武器和气候变化,但我们的第一个主要目标是帮助人工智能安全性研究进入主流视野。我在麻省理工学院物理系的同事、因研究夸克而获得诺贝尔奖的弗兰克· 韦尔切克建议我们,可以从撰写专题文章开始, 吸引人们对这个问题的注意力,从而让这个问题变得不容忽视。

于是,我向罗素(那时候我还没见过他)和我的物理学同行史蒂芬· 霍金寻求帮助,他们二人都同意加入我和韦尔切克,作为共同作者,一起写文章。虽然我们的专题文章改写了很多次,但还是被《纽约时报》等众多美国报纸拒绝,因此,我们将其发表在了我们在《赫芬顿邮报》的博客账号上。

令我高兴的是,《赫芬顿邮报》联合创始人阿里安娜· 赫芬顿(Arianna Huffington)亲自写来邮件说:"看到这篇文章, 我太激动了! 我们会把它放在头条的位置上。"于是,这篇文章被放在了主页的顶部,并引发了一大波媒体对人工智能安全性研究的报道,这波热潮一直延续到了当年的年底。埃隆· 马斯克、比尔· 盖茨等科技界领袖纷纷加入讨论。同年秋天,尼克· 波斯特洛姆出版了《超级智能》一书,再一次点燃了公众的讨论热情。

送书福利|你的寿命延长了一百万年,然后呢?

阿里安娜· 赫芬顿

在未来生命研究所,人工智能有益运动的下一个目标是让世界顶级的人工智能研究者齐聚一堂,澄清误解,铸就共识,并提出富有建设性的计划。我们知道,想要说服一群享誉全球的科学家来参加一个由外行人组织的会议是很难的,尤其是会议的主题还如此富有争议。因此,为了邀请到他们,我们竭尽了全力:禁止媒体参会;将会议时间安排在2015年1月份,地点安排在波多黎各的一个海滨度假村;免去了一切参会费用。

我们给这次会议起了一个我们所能想到的最不危言耸听的标题:"人工智能的未来:机遇与挑战"。多亏我们的团队中有斯图尔特·罗素,因为有他的帮助,我们的组织委员会里才得以加入一批来自学术界和产业界的人工智能领袖,包括人工智能企业DeepMind 创始人德米斯·哈萨比斯(Demis Hassabis),正是他,在2017 年向人们证明了人工智能可以在围棋中打败人类。我对哈萨比斯了解得越多,就越发现他的热情不仅在于让人工智能变得更强大,还在于让人工智能变得有益于人类。结果,这是一场心灵的非凡碰撞。人工智能研究者、顶级经济学家、法律学者、科技领袖等思想家齐聚一堂,这些人中包括埃隆· 马斯克和提出了" 奇点"(Singularity)这个词的科幻作家弗诺· 文奇,我们会在第4 章聚焦这个话题。

这次会议的结果超过了我们最乐观的预期。或许,是因为有阳光与红酒的相伴,又或许,是因为时机正好。尽管话题很有争议,但我们最后还是达成了一份了不起的共识。我们将共识的详细内容写入了一封公开信,最后有8 000 多人签名,其中涵盖了名副其实的"人工智能名人谱"。公开信的主旨是,我们应该重新定义人工智能的目标:创造目标有益的智能,而不是漫无目标的智能。公开信还提到了一份研究课题列表。参会者都同意,这些课题能进一步推进上述目标。人工智能有益运动开始逐步进入主流社会。在本书之后的章节中,我们将会介绍该运动的后续进展。

这个会议的另一个重要收获是:人工智能的成功所引发的问题不仅在智识上令人着迷,而且在道德上也非常重要,因为我们的选择可能会影响生命的整个未来。在历史上,人类所做出的选择的伦理意义固然很重要,但却时常受到限制:我们能从最严重的瘟疫中恢复,但最雄伟的帝国最终也会分崩离析。在过去,人们知道,无论什么时候,人类都会面临常年不断的灾害,比如贫穷、疾病和战争,这个事实就像太阳早晨一定会升起一样肯定,因此,我们必须想尽办法解决这些问题。不过,波多黎各会议上的一些发言人称,现今面临的问题可能和以前不一样。他们说,这是历史上头一遭,我们或许能发明出足够强大的科技,可以将那些灾害永久性地清除出去;又或者,它也可能将人类推向末日。我们可能会在地球上甚至地球之外构建出一个空前繁荣的社会,同时也可能会让全世界都处于强大的卡夫卡式的监控之下。

送书福利

想要立即获得本书?那就快点击文章下方的“阅读原文”前去购买!

在本条推送下留言,谈一谈你对生命定义的看法,更有机会获得我们免费送出的《生命3.0》哦!活动截止时间为2018年7月24日中午12点,一共3本,快来加入我们的留言互动吧!

◆ ◆ ◆ ◆ ◆

点击你感兴趣的关键词

立即获得关于TA的更多信息!

......

送书福利|你的寿命延长了一百万年,然后呢?


分享到:


相關文章: