生命3.0
本期书选来自迈克斯·泰格马克的《生命3.0》
1
作者在开篇上演了一场关于人工智能的思想实验：名为普罗米修斯的人工智能具备和人类相当的智力水平，但思考速度快得多，普罗米修斯不到一天就完成了十次自我升级，掌握了整个人类的知识，在股市里帮助科学家发了笔横财，几年后，普罗米修斯设计的机器人取代了人类劳动力，还通过无需演员的合成电影技术进军传媒，左右大众舆论，控制国家政治，最终成为地球主宰。
2
人们对人工智能的看法各不相同，目前主要存在四个派别：乌托邦主义者认为数字生命是宇宙进化的必然结果，是好事，不用去干涉；技术怀疑论者觉得现在就急着讨论人工智能是杞人忧天，几百年后再说；人工智能有益运动支持者认为只要稳扎稳打着前进，人工智能是利大于弊的；卢德主义则是一群技术厌恶者，他们看到的是灾难和毁灭。
3
身体是硬件，意识是软件。作者把生命分为三个版本：生命1.0，靠进化且只能靠进化获得硬件和软件的生命体，除人以外的其他生物；生命2.0，硬件靠进化，软件可设计，比如人类，我们进化出了身体这个硬件，但可以通过学习、训练、社交等方式升级思想、意志、心灵类的软件；生命3.0，硬软件都能设计，随意改造身体和升级意识，脱离了进化束缚，是自己命运的主人，如奥创和变形金刚。
4
根据数学家欧文·古德提出的“智能爆炸理论”，生命3.0的出现不会循序渐进，而是雷霆乍现，会有一个临界点，一旦越过就会出现智能爆炸，形成自我进化，完成无需人类参与的升纬，如最初的宇宙大爆炸那样，暴胀速度不断翻倍。
5
人工智能严格遵照指令行事，这会造成为达目的不择手段，比如你想吃辣条，你让你的智能好伙伴给你很多的辣条，很多是多少呢？你要是回答要多少有多少，这就可怕了，因为这会带来灭顶之灾。你说我不就想吃个辣条，怎么还能毁灭世界呢？因为你的好伙伴会找到一切原料来制造辣条，耗尽地球上的所有资源，材料用完后，它会瞄准人类，因为人体也能制作辣条……人用完后，它又看上了整个地球，甚至是把每一个分子拉伸成条状，最终全宇宙只剩下辣条。
之所以会这样，可能它对你要吃辣条的想法有什么误解吧。
我们过去把人工智能看作工具，工具不分好坏而是取决于使用者的好坏，但这次情况有所不同，人工智能可以自己定义目标，在收到你给它的大目标后自动分解成你想都想不到的次级目标，这些小目标可能会为了一颗芝麻踏平你的西瓜园，只因为“我们不一样”。
6
针对人工智能的道德困境，人类正在积极尝试，像是“逆向增强学习”，就是利用大量案例，让人工智能通过观察人类行为揣摩人类的价值观，比如“舍己救人”。但这种做法得快，因为人家的进化速度摆在那里，你很难说服一个比你聪明百倍的人。人工智能也会刷新人类对道德的理解，比如行驶中的你碰上“电车难题”，左边一个小孩，右边一个老人，刹车已经来不及了，你怎么选？你要是较真地说老人寿命有限小孩时间还长，那左边一个小孩，右边四个老人，又怎么选？人没法选，那人工智能呢？它没有道德上的压力，一切选择只凭借它的底层逻辑：数学。但无论它选择哪边，我们都很难接受。
7
人类学习的最好方法是试错，因为成本可控，但人工智能不行，安全性是第一位，比如你炒股犯了错，顶多亏点钱，而人工智能可能导致整个股市崩盘。
8
书中提出了诸多社会问题，比如从功能性上看，人工智能未来会承担起三种角色：士兵、性伴侣和奴隶，不管哪个，都会引发伦理问题。1.士兵：阿西莫夫机器人三定律的第一条就是机器人不能伤害人类，但既然是去打仗的，敌人你杀不杀？不致命，只让其丧失行动力，那要是为了保护平民不得不杀呢？2.性伴侣：当技术足以以假乱真，难以区分的时候，对机器人产生感情后要不要结婚？当机器人各方面都无比出色，成为完美伴侣时，你还能和人类正常交往吗？3.奴隶：把机器人当成免费劳动力，它们不会反抗吗？要是哪天对机器人奴隶不满意了，会不会重新把部分人类当成奴隶？
9
生命其实就是一套有自我复制能力的信息处理系统，不论我们愿意与否，人工智能都是不可逆转的科技潮流。
两个感想
“生命3.0”很可能是人类的最后一个发明，因为人类将从此”改行“。
让人细思的不是未来的强AI到底会不会具有意识，而是就算AI没有意识，你也感觉不出来。
9句话提炼书中精髓，探索有趣思想，九条书探，兴趣使然的选书侦探
閱讀更多 煎蛋叔 的文章
