人工智能正在改變世界，而關鍵是人類應該如何塑造人工智能。我們在“熱”推進的同時，必須進行“冷”思考。本文立足於哲學視域，來探討智能化社會有可能帶來的十大挑戰。
挑戰之一：人工智能有弱版本、強版本和超版本三種形式，目前大力發展的弱人工智能，使人類生活的世界處於快速變化之中，這在概念建構上使人類措手不及。如何重構概念框架，豐富現有的概念工具箱，是人類面臨的概念挑戰。
關鍵詞：機器學習、重構哲學社會科學框架
21世紀以來，隨著大數據、雲計算、圖像識別以及自然語言處理等技術的發展，以深度學習為基礎的聯結主義範式得到快速發展。這種範式在觀念上把計算機看成是類人腦，在方法上不再求助於形式化的知識推理，不再通過求解問題來體現智能，而是求助於統計學，通過模擬神經網絡的聯結機制，賦予計算機能夠基於大樣本數據進行自主學習的能力，來體現智能。這就把人工智能的研究，從抽象的知識表徵轉向實踐中的技能提升，從原子主義的主客二分的理性分析方式，轉向能動者與其所在的世界彼此互動的感知學習方式。
能動者的技能提升是在學習過程中進行的。 技能不能被等同於操作規則或理論體系，而是能動者在其世界中或特定的域境（context）中知道如何去做的技術能力。這種範式恰好與來自胡塞爾、海德格爾、梅洛-龐蒂和德雷福斯的現象學相吻合。這也是為什麼威諾格拉德於20世紀80年代曾在斯坦福大學的計算機科學課程中講授海德格爾哲學、麻省理工學院的第二代人工智能科學家也不像第一代人那樣排斥德雷福斯的哲學主張的原因所在。
人工智能發展的這種範式轉換，不僅揭示了人類體驗世界、與世界互動，以及在理解世界並賦予其意義上，使世界語義化的新方式，而且正在全方位地改變著過去習以為常的一切架構。
一方面，基於統計學和隨機性的算法建模，賦予智能機器在不斷實踐中能夠自主提高技能的能力，使得機器學習的不確定性和不可解釋性成為智能機器的基底背景，而不再是令人擔憂的認識論難題；
另一方面，機器智能水平的高低，取決於其學習樣本的體量或規模，這強化了體知型認知（embodied cognition）的重要性。智能機器在學習過程中表現出的不確定性，以及人工智能所帶來的世界的瞬息萬變，要求我們重構現有的規則與概念。因此，全方位地豐富和重構哲學社會科學的概念框架，是我們迎接智能化社會的一個具體的建設目標，而不是一個抽象的理論問題。
挑戰之二：人工智能是由大數據來驅動的，如何理解數據之間的相關性所體現出的預測或決策作用，是人類面臨的思維方式的挑戰。
關鍵詞：相關性思維方式、數字環境適應人
大數據具有體量大、類型多、結構雜、變化快等基本特徵。然而，當數據成為我們認識世界的界面時，我們已經無意識地把獲取信息的方式，交給了搜索引擎。在搜索算法的引導下，我們的思維方式也就相應地從重視尋找數據背景的原因，轉向瞭如何運用數據本身。這就顛覆了傳統的因果性思維方式，接納了相關性思維方式。
因果性思維方式追求的是，如果A，那麼B；而相關性思維方式追求的是，如果A，那麼很有可能是B。這時，A並不是造成B的原因，而只是推出B的相關因素。就起源而言，因果性思維方式是與牛頓力學相聯繫的一種決定論的確定性思維方式，而相關性思維方式則是與量子力學相聯繫的一種統計決定論的不確定性思維方式。
相關性思維與因果性思維，屬於兩個不同層次的思維方式，不存在替代關係。前者是面對複雜系統的一種橫向思維，後者則是面對簡單系統的一種縱向思維。比如，在城市管理中，智能手機的位置定位功能有助於掌握人口密度與人員流動信息，共享單車的使用軌跡有助於優化城市道路建設等。這些在過去都是無法想象的。
另一方面，隨著數據實時功能的不斷增強和推薦引擎技術的不斷髮展，人與數據環境之間的適應關係也發生了倒轉：不是人來適應數字環境，而是數字環境來適應人。這種新的適應關係也是由相關關係引領的。
挑戰之三：在一個全景式的智能化社會里，如何重新界定隱私和保護隱私，如何進行全球網絡治理，是人類面臨的新的倫理、法律和社會挑戰。
關鍵詞：電子檔案、信息刪除權
當人類生存的物質世界成為智能化的世界時，常態化的在線生活使人具有了另外一種身份：
數字身份或電子身份。一方面，無處不在的網絡，即使是私人空間或私人活動，也成為對公共空間或公開活動的一種重要延伸。過去屬於私人的信息或國家機密，現在會在不被知情的情況下，被複制和傳播，甚至被盜用；另一方面，編碼邏輯的活動越來越標準化和碎片化，自動算法系統作為新的認知層面，建構了個人的電子檔案，能夠實時地解讀和編輯個人行為、篩查個人的心情、追蹤個人的喜好，甚至能夠抓取個人對信息的感知趨向，進行有針對性的信息推送。
而這種推送服務，不僅會加固社會分層，而且具有利用價值，比如，保險公司有可能在掌握了個人病史的情況下，提高保費；大學招生部門有可能把個人網絡檔案作為決定是否錄用學生的參考依據，等等。與傳統的社會化和社會控制機制相反，在智能化時代，人的社會化成為無形的和不可解釋的。這就增加了社會現象的不透明性和人的透明性。
對於個人而言，網絡數據和信息的不可刪除性，個人注意力的貨幣化，人的行為隨時被置於網絡監視之中，以及無法保證技術的匿名性，都會導致人的隱私權的喪失，還會強化信息的不對稱和權力的不對稱，因而對傳統的隱私觀提出了巨大的挑戰。
傳統的隱私觀包括兩個方面：一是個人對希望呈現的信息有控制權，二是個人對屬於或關於自己的信息有刪除權。當人的數字化生存使得人們失去了對自己信息的控制權的同時，也就失去了對自己信息的刪除權。在歐盟關於數據保護條例的討論中，從互聯網中消除信息的決定權，是一個最有爭議的話題，其中，技術性的問題比我們想象的更加複雜。
挑戰之四：隨著人的網絡痕跡不斷留存，應該如何對待很有可能出現的數字人，是人類面臨的對現有生命觀的挑戰。
關鍵詞：數字人、拓展生命觀
物聯網創造了把人、物和世界或自然界聯繫起來的網格，智能化技術的發展又進一步使得數據、信息和知識，還有思想和行為痕跡，成為永存的。這已經為數字人的出現創造了條件。
數字人不僅能永生，而且更重要的是，它能夠模仿出之前只有生命才具有的許多特性。這就對傳統的生命觀提出了挑戰，並帶來了許多需要重新思考的問題。
如果未來有一天，數字人能夠藉助於自然語言處理技術和深度學習技術，來模仿真人的發音，通過計算機視覺、圖像識別等技術，來模仿真人的行為。那麼，是否允許未來會出現專門定製數字人的公司呢？應該制定什麼樣的道德法律來規範數字生命呢？
進一步設想，如果未來有一天技術允許一個人的心靈在他的身體死亡後，在一個不同的主人（比如，限於一塊硅電路或一個分佈式網絡）的體內繼續運行，將會發生怎麼樣的情況呢？這樣的實體依然滿足用來描述人還活著的標準嗎？兩者將會擁有相同的心靈嗎？而且，就所有的實踐考慮而言，它會將永遠有能力學習、反應、發育和適應嗎？這將會違背活的有機體是由細胞組成的這一必要條件。但是，如果我們選擇堅持這個必要條件，我們將如何拓展我們的生命觀呢？這還會涉及法律、醫療、倫理、經濟、政治乃至軍事等方面的問題。
挑戰之五：增強現實技術、生物工程技術以及量子計算的發展，應該如何對待有可能出現的生化電子人，是人類面臨的關於身體觀的挑戰。
關鍵詞：技術人造物、自由意志
在智能化的社會里，當芯片技術、生物工程技術和量子算法等整合起來時，將會出現名目繁多的增強型技術。這些技術的人造物，比如生物芯片，不只是具有醫療的作用，更重要的是具有強化人體功能的作用，那麼，我們應該如何規範這些器件的使用範圍呢？不論是為了醫療的效果，還是為了增強的效果，當人體的主要功能性器官有可能被全部替換時，這個人還是原來的那個人嗎？
當技術發展到人的主要器官可以被替換時，就可能出現生化電子人，那麼，生化電子人仍然是人嗎？我們如何劃定人類和非人類之間的界線？
更令人擔憂的是，隨著醫療技術的發展，也許有一天內置於我們體內的納米機器人能修復任何需要修復的器官或組織，而不會影響人的生命或身份。但是，如果這些機器人是受外部控制的，就必然會帶來許多問題，比如，如何看待自由意志；從動物倫理的視域來看，當人類有可能在生物上成為永生的時，對環境和可持續性來說將是毀滅性的；人類是否有權比其他生物活得更長久，人類是否應該建立規則和條件來終止生命或同意安樂死，以及如何決定誰應該活著和死去。
挑戰之六：人的數字化生存，有可能使得理性—自主的、與身體無關的自我意識，被第三空間中的社會—關係的、與身體相關的自我意識取而代之，這是人類面臨的重構自我概念的挑戰。
關鍵詞：第三空間、關鍵自我
在智能化的社會中，人的在線生活使得在線交流成為人類交往的一種習慣方式，人們把這種交流的網絡空間稱之為“第三空間”。這是由共享的群體意識所塑造的一個空間，現在流行的微信朋友圈就是典型一例。這種空間是位於嚴格意義上的個人隱私和大規模公開化之間的一個共享的交流空間。
第三空間中的自我概念強調的正是這種與他者的“關係性”或“社會性”。人類自由的這種語境依賴性，把自我定義為是通過多重關係來構成的。在多重關係的交織中，人們往往從堅固的個人隱私觀念，轉向了各類新媒體上的信息共享：既包括私下公開個人信息，也包括共享受版權保護的學術資料，還有小道消息，甚至不加證實的各類謠言等。因此，人的網絡化生活一方面使人類從信息匱乏的時代，轉變為信息過剩的時代，另一方面又把人類帶到一個信息混雜、難辨真偽的時代。
關係自我之所以強調在與他者的交流互動中來彰顯自己，是因為人不僅是目標的追求者，也是意義的塑造者，人與人之間的彼此互動也會產生新的意義和新的可供性。因此，如何重塑社會—關係自我，成為我們面臨的關於自我概念的挑戰。
挑戰之七：人工智能向各行各業的全面滲透，使人類有可能擺脫就業壓力，獲得時間上的自由。然而，如何利用充足的自由支配時間，卻成為人類面臨的比為生存而鬥爭還要嚴峻和尖銳的挑戰。
關鍵詞：改變財富觀
隨著計算機的運算能力與儲存能力的不斷提升，特別是有朝一日隨著量子計算機的出現，人工智能不只是侷限於模擬人的行為，而且還拓展到能夠解決複雜問題。人工智能的這些應用前景，越來越受人重視。然而，我們面臨的問題，不應該是因恐懼失業而阻止人工智能的發展，而是反過來，應該前瞻性地為人工智能的發展可能帶來的各種改變，做好思想準備和政策準備。事實上，問題的關鍵並不是人工智能的發展會導致大量人員失業那麼簡單，而涉及更加根本的問題：如何改變人類長期以來形成的就業觀和社會財富的分配觀？
隨著人工智能的發展，當程序化和標準化的工業生產、基於大樣本基數的疾病診斷、法律案件諮詢，甚至作曲、繪畫等工作都由機器人所替代時，當人類的科學技術有可能發展到編輯基因時，地球的發展將會面臨著第三次大轉折，那就是迎來人機協同，乃至改變人體基因結構的時代。
到那時，有望從繁重的體力勞動與腦力勞動的束縛中完全解放出來的人類，應該如何重新調整乃至放棄世世代代傳承下來的以勞取酬的習慣和本能的問題，以及人類如何面對改造自己基因的問題，就成為至關重要的問題。
也就是說，當人類的休閒時間顯著地增加，而我們所設計的制度與持有的觀念，還沒有為如何利用休閒時間做好充分的思想準備時，當科學技術的發展使我們能夠設計自己的身體時，我們將會因此而面臨著一種“精神崩潰”嗎？對諸如此類問題的思考，使我們不得不面對更加現實的永久性問題：我們在擺脫了就業壓力而完全獲得自由時，如何利用充足的自由支配時間，如何塑造人類文明，成為人類文明演進到智能化社會時，必然要面臨的比為生存而鬥爭還要嚴峻而尖銳的挑戰。
挑戰之八：當人類社會從由傳統上求力的技術所驅動的工業社會，轉向由求智的技術所驅動的智能化社會時，如何在智能技術的研發中，把人類的核心價值置入到設計過程之中，使人工智能有助於塑造人的意義，是人類面臨的關於技術觀的挑戰。
關鍵詞：技術倫理
從總體上講，人類創造技術人造物，在主觀上，雖然不是為了改變人，而是為了滿足人的需求，但在客觀上，卻反過來又在無形中重塑了人，也就是說，人在使用技術的同時，也被技術所改變。
特別是，當我們生活在“智能環境”中時，一方面，物質環境本身具有了社會能力，成為一種環境力量，能夠起到規範人的行為和重塑公共空間的作用，甚至還能起到社會治理的作用。
比如，城市交通要道上架設攝像頭，能夠約束司機的駕駛行為，使他們不得不把遵守交通規則內化為一種良好的駕駛習慣；在智能手機中下載地圖app，不僅能實時掌握道路擁堵情況，方便出行，而且有助於緩解主幹道上的交通壓力；許多重要場合在安裝上人臉識別系統之後，不相關的人員將無法入內，從而變成了一項加強安保與監管的自動措施；用人單位在記錄職工考勤時，如果用人臉識別系統取代傳統的電子打卡方式，就能夠避免替人打卡現象，如此等等。
但另一方面，智能手機攜帶的地理定位功能，讓人的行蹤成為透明的，網絡活動留下的各種數據，讓人的興趣、愛好、生活習慣以及社會交往等成為透明的，人臉不僅是名字的標籤，還承載了許多可以機讀的網絡信息，這些信息既能造福於人類（比如，用於病理診斷），也會損壞人的利益（比如隱私洩露）。
因此，在智能化的社會中，技術善惡的天平將會偏向哪個方向，不再只是取決於使用者，而且更取決於設計者。
當代人已經生活在人造物的世界中，無法離開技術而生存，而是應該討論如何在智能技術的研發中把人類的核心價值置入到設計過程，如何發展與人工智能的良性互動，如何樹立一種嵌入倫理責任的技術觀等問題。
挑戰之九：在知識生產領域內，軟件機器人的普遍使用，將會為科學家提供科學認知的新視域，如何對待有軟件機器人參與的分佈式認知，是人類面臨的對傳統科學認識論的挑戰。
關鍵詞：分佈式認知
網絡化、數字化與智能化的結合，既是平臺，也是資源。它們不僅創設了無限的發展空間，具備了很多可供開發的功能，而且為我們提供了觀察世界的界面。特別是，對於那些希望從互聯網的知識庫裡“挖掘”有用信息的人來說，搜索引擎或軟件機器人成為唾手可得的天賜法器，既便捷，又快速。
問題在於，當搜索結果引導了人類的認知趨向併成為人類認知的一個組成部分時，人類的認知就取決於整個過程中的協同互動：既不是完全由人類認知者決定的，也不是完全由非人類的軟件機器人或搜索引擎決定的，而是由相互糾纏的社會—技術等因素共同決定的。弗洛裡迪稱之為“分佈式認知”。一種分佈式認知的形式體現在維基百科中。另一種分佈式認知的形式體現在新型的科學研究中。
因此，當科學研究的結果也依賴於機器人的工作時，我們的認識論就必須由只關注科學家之間的互動，進一步拓展到關注軟件機器人提供的認知部分，形成“分佈式認識論”。這是對傳統認識論的挑戰。
挑戰之十：當整個人類成為彼此相連的信息有機體，並且與人造物共享一個數字化的信息空間時，認識的責任就必須由人類的能動者和非人類的能動者來共同承擔。如何理解這種分佈式的認識責任，是人類面臨的對傳統責任觀的挑戰。
關鍵詞：責任觀、擺脫恐懼
智能化的網絡世界永遠是一個包羅萬象的地方，既讓人著迷，又令人憂慮。著迷之處在於，它有可能讓我們極大程度地從體力與腦力勞動中解放出來，有時間從事成就人的工作；憂慮之處在於，它同時也會帶來了無盡的問題：身份盜用、垃圾郵件、網絡欺詐、病毒攻擊、網絡恐怖主義、網絡低俗文化等。這說明，
我們的認識系統已經是一個與社會—技術高度糾纏的系統。在智能環境中，智能化程度的提高，造成了我們對承擔責任的恐懼。比如，在個人數據處理、無人駕駛、算法交易等事件中，如果發生問題，應該由誰來負責呢？
這種恐懼把認識關係變成了一種權力關係。也就是說，在認識過程中，不同的認識能動者（不論是人類的，還是非人類的），具有不同的權力。當非人類的算法或軟件機器人過濾和引導了我們的認識視域時，就提出了我們如何成為負責任的認識者的問題。
比如，我們已經習慣於通過百度來查找所需要的一切信息，習慣於通過參考他人的評分或評論，來決定預定哪家賓館、在哪個餐飲吃飯、購買哪件衣服，等等。問題在於，我們為什麼要相信這些評論或評分？如果我們被欺騙，我們應該如何問責呢？對這個問題的思考，涉及到關於搜索引擎這樣的智能人造物的倫理和道德責任的問題。
比如，汽車發生碰撞事故，交警通常會判定要麼由司機來負責，要麼由廠商來負責。在這種思路中，汽車是被當作孤立的技術人造物來看待的。可是，如果是一輛無人駕駛的汽車發生了碰撞事故，那麼，我們就需要追究這輛車的責任，因為無人駕駛車應該被當作是屬於社會—技術—認識高度糾纏的人造物來看待的。
然而，如何解決這樣一個把倫理學、本體論和認識論高度糾纏在一起的問題，在現有的規章制度中和交通法規中依然無章可循。因此，從如何重塑社會—技術—認識系統中的問責機制來看，如何確立分佈式責任觀是我們面臨的對傳統問責機制的挑戰。
綜上所述，智能化社會是由人工智能驅動的社會，是信息文明的高級階段。這個社會必然會全方位地打破我們習以為常的生活方式、生產方式、思維方式、概念框架乃至當前在現代性基礎上形成的方方面面。在我們勢不可擋地邁向智能化社會的道路上，面臨著有必要重構一切的情況下，哲學社會科學的出場，很可能比技術與資本的出場更迫切、更重要。因為只有這樣，才能有助於前瞻性地重構一系列戰略方針，做到防微杜漸，才能有助於擴大人工智能帶來的恩惠，規避人工智能可能帶來的危害，降低發展人工智能付出的代價。
也許，擺脫恐懼，迎接挑戰，是人類文明無法迴避的宿命。閱讀更多 智造未來微刊 的文章
