科幻片中的機器人大軍反抗人類統治、現實中的人工智能加速走向落地……人們對於人工智能的發展充滿期待，卻又憂慮十足。而現在，精神變態的人工智能已經出現，但還好其只是一個實驗品。
“諾曼”與偏見：精神變態的人工智能已經誕生！
三個月前，一款名為“諾曼”的人工智能在美國麻省理工學院正式誕生。與“友善”、“健談”的“索菲亞”不同，“諾曼”被認為是世界上第一款人工智能“精神病患者”，名字來源於驚悚片經典之作《驚魂記》中的變態旅館老闆。
實際上，“諾曼”是一款執行圖像字幕處理的人工智能產品，其會自動根據訓練者提供的圖像以文字的形式進行解釋。不過，由於“諾曼”的研究團隊出於實驗目的，讓其學習了大量負面內容，使得“諾曼”的“思想”也被帶偏了。例如，在識別同一張圖像時，普通人工智能的描述是“小鳥的黑白照片”，而“諾曼”的描述則是“一名男子被捲入機器當中”。
人工智能易被人類影響
“諾曼”的誕生與實驗代表了一個真實案例：當人工智能進行深度學習訓練時，如果其應用的是帶有偏見的信息或數據，那麼人工智能就會走向偏見甚至極端。
早前，微軟曾推出一款人工智能機器人“Tay”，但是沒過多久就被下線了。“Tay”之所以這麼快就“失業”，就是因為其被網友的言論所影響，變成了一個種族主義者，而失去了原有的中立立場，開始捍衛所謂的白人至上主義。
一些深埋人類心理中的隱性偏見，對於人工智能來說並不難“學習”。人工智能往往無法脫離人類固有的思維定式，將“女性”與家庭、藝術等聯繫起來，將“男性”與職業、數學等聯繫起來。
業內專家認為，隨著人工智能發展提速，其正在學習、吸收海量數據，同時也將數據中的人類偏見一股腦“收入囊中”。很多人都認為人工智能存在偏見、會造成危險，但其實卻是人類造成了這一局面，人工智能只是有樣學樣而已。
然而，鑑於人工智能的影響越來越大，已經深入應用到金融、醫療、交通、娛樂等諸多領域當中，並且還在滲透到人文領域當中，其未來將會與人類生活日益密切。在這樣的情況下，易被人類影響、難以辨明好壞的人工智能顯然是不容忽視的安全隱患。
需重視人工智能潛在挑戰
人工智能技術的開發與應用，雖然帶來了巨大利好，但是也造成了一定威脅，如對人類就業機會的影響、對個人隱私保護的侵犯、對社會公平的破壞和被不法分子利用等。因而，國際上部分大咖都對人工智能的發展抱有戒心。其中，馬斯克、霍金等人是主要代表人物。
特斯拉與SpaceX是全球知名的兩家科技企業，其創始人馬斯克對於人工智能一直秉持著謹慎的態度。馬斯克曾在採訪中不止一次警告人們，“人工智能可能比核武器更危”。馬斯克認為，如果人類創造出更加聰明的機器人，那麼將有可能遭到背叛。
已故的著名理論物理學家史蒂芬·霍金的觀點與馬斯克類似。史蒂芬·霍金告誡世人，其一生中印象最為深刻的，就是人工智能的崛起，“人工智能要麼是人類歷史上最好的事，要麼就是最糟的”。
雖然這種較為“消極”的觀點並不是絕對主流，但是在業內的影響十分巨大的。人工智能的確是一把“雙刃劍”，許多重大科技都是如此。所以，對於人工智能的發展要理性認識，既要看到美好前景，也不能忽視潛在威脅。人工智能要想在未來獲得持續、有序的發展，而避免出現損害人類利益的現象，就必須高度重視完善其倫理道德體制。
倫理與法律規範建設加快推進
人工智能被視為開啟“第四次工業革命”的“鑰匙”，如果人類寄希望於把握這一歷史性機遇，創造更好的未來生活，就應該給人工智能規劃好前行路徑，設立一些必要的“圍欄”，避免其“橫衝直撞”，實現行穩致遠。目前，面對人工智能技術可能帶來的挑戰，各國政府正提升重視程度，陸續出臺或準備出臺一系列政策措施。
2017年，美國信息技術產業委員會頒佈了人工智能的14條政策準則；2018年，歐盟出臺《通用數據保護條例》；更早些時候，韓國政府開始推動《機器人道德憲章》的擬定；此外，日本政府也計劃儘快出臺相關規定。
在我國，2017年7月《新一代人工智能發展規劃》正式公佈，明確到2025年，初步建立人工智能法律法規、倫理規範和政策體系，形成人工智能安全評估和管控能力。到2030年，建成更加完善的人工智能法律法規、倫理規範和政策體系。
日期，工信部賽迪研究院發佈《人工智能創新發展道德倫理宣言》，規定人工智能的發展應當始終以造福人類為宗旨，不能將人工智能的自主意識等同於人類特有的自由意志，不能改變人工智能由人類創造的事實等。
除了政府層面，一些主要科技企業也在加速制定人工智能道德準則。谷歌公開表示，在人工智能開發應用中，將堅守公平、安全、透明、隱私保護等在內的7個準則；微軟也提出了公平、可靠與安全、隱私與保密、包容、透明、負責的人工智能開發六原則。
不以規矩，不能成方圓。只有為人工智能的開發與利用制定完善的、合乎人類利益與道德標準的相關倫理規範與法律制度，才能確保人工智能的可持續發展，確保人類的生存權利與安全。“諾曼”的誕生，更多地是為了證明，人類的影響才是人工智能“變壞”的關鍵因素，管住人遠比管住“工具”更重要。
閱讀更多 中國智能製造網 的文章
