摩爾定律的失效，說明人工智能威脅論，不是空穴來風，也是對"絕對科學主義”的小小警告:世界未來不僅只有科學，人工智能不可能從本質超過人腦，也不應該成為控制社會智能系統的唯一選擇。否則由人工智能系統的差錯，造成整體社會智能系統的問題，有可能演變為系統性的災難。
人工智能，它是人能夠被執行信息化解讀的大腦功能，而這種大腦功能是能夠綜合現代幾乎所有最聰明人的科學智慧的綜合集成，而且還會隨著科學的發展，不斷增添更多的內容。
而人腦是建立在單個的個體智慧，很難被完全整合和完全系統化。我們很難某個人能夠在有限的一生中，把世上的智慧積於一人或一個團體。所以人工智能在科學發展的助推下，在科學認知高度方面，超越人腦並且能越走越遠，是大勢所趨。但它也不是萬能的。科學的認知高度，僅是科學能夠認知的高度。而對自然智慧的認知，科學永遠無法達到它的全部，沒有盡頭。
然而人工智能不應該也不可能無限疊加超過人腦。一是因為科學認知的模似智力，不是自然的意識智慧。二是因為極度的機器智力膨脹，反而是走向愚蠢的開始，而且更具有隱蔽的危脅性:一個超級膨脹的機械智力系統，隨時都有可能因系統內部積累的誤差，造成不可預料的系統失控或者總崩盤。有點兒象對一群人的精神失常直至精神分裂而徹底崩潰!而我們人類到現在，仍然無法治癒好很多精神病，我們正常人的精神，也還需要來自內外兩方面的不斷自我調整，我們才能先保持自己的精神健康，而後還得不斷學習進步的不斷修煉才能前進，進化。
如今紮紮實實，一步個腳印地發展人工智能，讓它服務於人類的具體工作，才是正事兒。我認為，建立一套相對完整又相對獨立，又整體聯繫的整體智力功能組合模塊，及局部智力功能模塊及子模塊等可分拆組裝整合的模塊系統，可能對未知風險積累的化解和控制，以及智力的升級和發展，可能是一個方向。我概括為;可系統組裝，升級和分解控制的人工智能發展進化系統，可能是一種理想的方法。
絕對智能化，也就是絕對科學主義，是非常有害的。有可能是它的反面:自找麻煩，簡單問題複雜化，聰明變傻蛋的過極效應:犯神經病的機器智能系統失控連鎖反應。//@不許牛逼:智能化是一把雙刃劍，把握好度是個難題。
話題來源∥@摩爾定律變成摩爾報復 世界可能會變得無法控制 安全牛
周思夢翔 隨筆 人工智能的思考
閱讀更多 周思夢翔 的文章
