高层速读

关键信息：2014年，扎克伯格邀请马斯克等人在家中共进晚餐，试图说服马斯克对于人工智能威胁的看法，但没有成功；谷歌、亚马逊和Facebook等企业带动了整个行业对人工智能威胁的关注；2017年，人工智能顶级人物开启密圈讨论，公认超级人工智能必然存在。

关键数据：超过4,000名谷歌员工签署了请愿书，抗议与五角大楼的一份价值900万美元的人工智能合同。

关键意义：科技行业长期以来一直认为，它正在让世界变得更美好，不管这个世界是否喜欢它。

Facebook CEO马克•扎克伯格认为，同为硅谷亿万富翁的埃隆•马斯克对人工智能的担忧行为简直是杞人忧天，这位SpaceX和特斯拉的CEO在电视采访和社交媒体上多次提醒世界，人工智能“可能比核武器更危险”。

因此，在2014年11月19日，扎克伯格邀请马斯克在他位于加州帕洛阿尔托的家中共进晚餐，来自Facebook人工智能实验室的两名顶级研究人员以及高管也加入了他们的行列。

在餐桌上，Facebook的团队试图让马斯克相信他是错的，但这并没有奏效，“我真的相信这是危险的，”马斯克对在场的人员说。

马斯克对人工智能恐惧的原因很简单：如果我们创造出比人类更聪明的机器，他们可能会转而反对我们。比如电影《终结者》、《黑客帝国》和《2001太空漫游》。

他对科技行业的其他从业者说，“就让我们考虑一次，我们所创造的那些意想不到的后果，把它释放到世界上会带来怎样的后果。”

无论是马斯克还是扎克伯格，都不会详细谈论这顿晚餐，之前没有报道过，也没有讨论他们长期以来的人工智能辩论。

超级智能——这是一种将人工智能提升到下一个层次的技术突破，它创造的机器不仅能完成通常需要人类智能，如自动驾驶汽车等狭窄任务，而且还能超越人类，就像科幻电影所展示的那样。

AI威胁密圈讨论，超级人工智能必然存在

太平洋小树林是加州中部海岸的一个小镇，1975年冬天，一群遗传学家聚集在那里，讨论他们的工作——基因编辑——是否会对世界造成伤害；2017年1月，人工智能社区在海滨小树林里举行了类似的讨论。

人工智能领域的重量级人物都在这里，包括Facebook人工智能实验室的LeCun——他开发的卷积神经网络是当今人工智能领域最重要的工具之一；Nick Bostrom也出席了这次活动，他在2014年出版的《超级智能：道路、危险、战略》一书中，对人工智能产生的影响进行了讨论;Oren Etzioni曾是华盛顿大学的计算机科学教授，也在西雅图艾伦人工智能研究所工作;另一位是DeepMind的负责人

Demis Hassabis。

马斯克也是如此，他在2015年向马萨诸塞州剑桥市捐赠了1000万美元，同年，他还帮助创建了一个独立的人工智能实验室OpenAI，明确的目标是：用安全措施创造超级智能，以确保它不会失控。

在会议结束的第二天，马斯克参加了一个

专门讨论超级智能问题的9人小组，每个小组成员都被问到超级智能是否有可能，当把麦克风递给他们的时候，每个人的回答都说“是”，直到麦克风传到了马斯克那里。

“不，”他说，小礼堂里充满了会心的笑声，因为每个人都明白，马斯克认为超级智能不仅是可能的，而且是非常危险的。马斯克补充说：“我们正走向超级智能或文明的终结。”

在小组讨论结束时，马斯克被问到，社会如何才能最好地与超级智能共存，他说，我们需要的是大脑和机器之间的直接联系。几个月后，他推出了一个名为“Neuralink”的初创企业，旨在通过将电脑与人脑融合来创造这种所谓的“神经界面”。

当然，关于人工智能风险的警告已经存在了好几年了，但这些预言家中很少有人拥有马斯克的技术含量，即便是有，也几乎没有人花那么多时间和金钱在上面。

整个科技行业都在讨论人工智能的未来

超过4,000名谷歌员工最近签署了一份请愿书，抗议该公司与五角大楼签署的一份价值900万美元的人工智能合同，这笔交易对这家互联网巨头来说是一笔“鸡饲料”，但对该公司的许多人工智能研究人员来说却非常令人不安。

上周，试图阻止员工造反的谷歌高管表示，他们不会在明年合同到期时续签合同。人工智能研究具有巨大的潜力，无论是作为经济引擎还是军事优势。

中国政府已表示，愿意在未来几年内投入数十亿美元，让中国成为人工智能领域的全球领导者，而五角大楼也正积极向科技企业寻求帮助，预测未来的新型自主武器在不会有太大的距离。

各种各样的思想家都加入了人工智能威胁的辩论中，从加州中部海岸的哲学家和科学家聚会，到亚马逊CEO杰夫·贝佐斯在加州棕榈泉举办的年度会议。

“你现在可以谈论人工智能的风险，而不像是迷失在了科幻小说中”牛津大学人类研究所负责人阿兰达福说，该研究中心探讨了先进技术的风险和机遇。

在过去的几个月里，Facebook和其他科技公司的公开烘烤，已经在很大程度上引发了硅谷创造的技术带来的不良后果的讨论。今年4月，扎克伯格花了两天时间回答国会议员关于数据隐私问题。以及上个月在欧洲面临的类似拷问。

Facebook认识到，人们对正在发生事情的反应迟钝，带来了一个罕见的自我反省时刻：这个行业长期以来一直认为，它正在让世界变得更美好，不管这个世界是否喜欢它。

即使是像微软创始人比尔·盖茨和已故的斯蒂芬·霍金这样有影响力的人物，也表达了对创造比我们更聪明的机器的担忧。

“我们正在创造的这种系统非常强大，”康奈尔大学计算机科学教授、贝尔实验室前研究员Bart Selman说，“我们无法理解和预料他们的影响。”