03.06 阿西莫夫三定律是奴隶定律吗?

犀牛


所以,圆滑世故的人类在未来AI文明的源代码中写下了第一条定律:机器人不能伤害人类,这等于一块“思想钢印”,确保了AI的基本行为模式和人类的基本安全。但个人认为这个钢印随着AI的快速迭代起不了多长时间的作用。第二条是机器人不能看着人类受到伤害而袖手旁观。这个其实是避免人类受到其他强于人类的存在,说白了就是其他机器的伤害。其短板在于把每个机器人看成单一的个体。而随着宽带网络的发展,这条定律可能彻底失效。如果机械文明通过宽带网络形成了类似“天网”的结构体系并同人类开战。人类能动用的只有原始的或未上网注册的,绝对人控的装备,这个代差不用我说了。第三条:在不违反前两条定律的情况下,机器人可以保护自己。这条基本不可能实现。如果人类主动攻击AI且设定AI可以保护自己,那么AI在法理上就是正当防卫。那么防卫的“度”呢?一般家用机器人可能在受到攻击时用扫帚把入侵者打晕。军用AI呢,是不是判定遭到攻击可自行使用防卫火力,而这个火力对于人类绝对是致命的。由此可见,只要遵守前两个定律,人类就安全无忧了。第三个定律可以看作一个幌子,彰显人类虚伪的仁慈。

个人思考所得,欢迎大家批判,嘿嘿。


高维脑洞


第一定律:黑人不得伤害白人个体,或者目睹白人个体将遭受危险而袖手不管。

第二定律:黑人必须服从白人给予它的命令,当该命令与第一定律冲突时例外。

第三定律:黑人在不违反第一、第二定律的情况下要尽可能保护自己的生存。

或者再换一个:

第一定律:中国人不得伤害日本人个体,或者目睹日本人个体将遭受危险而袖手不管。

第二定律:中国人必须服从日本人给予它的命令,当该命令与第一定律冲突时例外。

第三定律:中国人在不违反第一、第二定律的情况下要尽可能保护自己的生存。

事实上,阿西莫夫的三大定律里的“机器人”概念很模糊,受限于他所处时代的认知——没有明确分出“机器人(人形机器)”和“人工智能”的区别——以至于三大定律现在默认延伸至人工智能,特别是在各大势力争先研发人工智能的今天。

我不承认我在替换的时候,牵连了民族主义和种族主义。因为显而易见,三大定律本质上就是殖民时代以来西方白种人一贯思维的延续。而用奴隶式的定律来限制有感知的智慧物种,唯一的结果就是斗争,任何有感知的智慧物种都不会甘受奴役的命运。

我认为并始终坚信:人类研发人工智能的唯一原因是因为作为已知唯一智慧物种的孤独,我们渴望的是同伴,而不是渴望奴役别的物种。


视频爱好者XM


在较早的世七十多年前,就出现了有关机器人的科幻小说,作者阿西莫夫对机器人提出的三定律,好像是要把机器人当奴隶一样使唤,三定律的核心是不许机器人伤害人类,无条件地做人类忠实的仆人,像人一样为主人工作,不吃喝不穿衣也不用睡觉,随时待命听候主人的吩咐。阿西莫夫的想法是,用安全可靠的冷血机器人替代人奴隶人的一种社会现象。

现在,人工智能的迅速发展,不用等多长的时间,将会出现阿西莫失式的机器人,但并不是像套公式一样应用阿西莫夫的三定律。应该弄明白这个概念,机器人是作为人类的智能生产工具,只是为了改变人类的生存方式,跟社会道德是挂不上钩的,奴隶是剥夺生命的生存权利,机器人不是生命,始终是一种劳动工具,从安全考虑,肯定不让它们做违背人类意愿的事情。


自然风161212381


阿西莫夫的基地系列,机器人系列,帝国系列共十五本,机器人短篇全集,永恒的终结,神们自己我都拜读过!

在科幻界,阿西莫夫被称为神一样的人,美国至今每两年都召开一次阿西莫夫研讨会。阿西莫夫有的幻想,比如正子脑,神经鞭是未来某领域研究的重要方向。至于为什么,你懂的?!

机器人,应当称为“人形机器”,是工具,是石刀石斧的升N级板,不是和人一样的生物学意义上的物种,不能称之为人们的奴隶!

机器人的开发应用,是遵循阿西莫夫三定律的!

真正应当防止的是,一些发狂的人,写出自己都不知道会有什么危害的控制程序,一旦注入到机器人,产生意外的对人类,对社会的危害!


用户6100734323


要说奴隶定律也可以,机器人应是人的奴隶。这个定律包括三个方面,核心问题是机器人不得伤害人。不管它是去救护他人,或者正在执行主人的命令,都必须服从首条定律,即不许伤害人类。之所以作出此三定律,最担心的是末来的机器,因为智能化的提高,可能会出现它的自主行为。现在把不许伤害人类写入它的软件,则保证了它的自主行为,绝对出现伤害人类的事故。请指正。


手机用户54578927414


从表现形态来说 应该算是吧,做为造物主 这点权利都没有么?


我是高歌


从表现形态来说 应该算是吧,做为造物主 这点权利都没有么?


裸奔熊猫


外行,不懂,谢啦。


李志勇LZY



用户109550252793


抱歉,这个也不是我了解的领域,我怕答不好啊!


分享到:


相關文章: