摩尔定律的失效，说明人工智能威胁论，不是空穴来风，也是对"绝对科学主义”的小小警告:世界未来不仅只有科学，人工智能不可能从本质超过人脑，也不应该成为控制社会智能系统的唯一选择。否则由人工智能系统的差错，造成整体社会智能系统的问题，有可能演变为系统性的灾难。
人工智能，它是人能够被执行信息化解读的大脑功能，而这种大脑功能是能够综合现代几乎所有最聪明人的科学智慧的综合集成，而且还会随着科学的发展，不断增添更多的内容。
而人脑是建立在单个的个体智慧，很难被完全整合和完全系统化。我们很难某个人能够在有限的一生中，把世上的智慧积于一人或一个团体。所以人工智能在科学发展的助推下，在科学认知高度方面，超越人脑并且能越走越远，是大势所趋。但它也不是万能的。科学的认知高度，仅是科学能够认知的高度。而对自然智慧的认知，科学永远无法达到它的全部，没有尽头。
然而人工智能不应该也不可能无限叠加超过人脑。一是因为科学认知的模似智力，不是自然的意识智慧。二是因为极度的机器智力膨胀，反而是走向愚蠢的开始，而且更具有隐蔽的危胁性:一个超级膨胀的机械智力系统，随时都有可能因系统内部积累的误差，造成不可预料的系统失控或者总崩盘。有点儿象对一群人的精神失常直至精神分裂而彻底崩溃!而我们人类到现在，仍然无法治愈好很多精神病，我们正常人的精神，也还需要来自内外两方面的不断自我调整，我们才能先保持自己的精神健康，而后还得不断学习进步的不断修炼才能前进，进化。
如今扎扎实实，一步个脚印地发展人工智能，让它服务于人类的具体工作，才是正事儿。我认为，建立一套相对完整又相对独立，又整体联系的整体智力功能组合模块，及局部智力功能模块及子模块等可分拆组装整合的模块系统，可能对未知风险积累的化解和控制，以及智力的升级和发展，可能是一个方向。我概括为;可系统组装，升级和分解控制的人工智能发展进化系统，可能是一种理想的方法。
绝对智能化，也就是绝对科学主义，是非常有害的。有可能是它的反面:自找麻烦，简单问题复杂化，聪明变傻蛋的过极效应:犯神经病的机器智能系统失控连锁反应。//@不许牛逼:智能化是一把双刃剑，把握好度是个难题。
话题来源∥@摩尔定律变成摩尔报复 世界可能会变得无法控制 安全牛
周思梦翔 随笔 人工智能的思考
閱讀更多 周思夢翔 的文章
