近日，沙特公民、仿真機器人索菲婭就任聯合國開發計劃署亞太局首位創新大使。最近她還宣佈想要結婚並想有個女兒。面對謎一樣的未來，人們開始熱議一系列倫理問題。
在日前舉辦的“2017可持續發展責任商業論壇”上，沙特公民、仿真機器人索菲婭正式就任聯合國開發計劃署（UNDP）亞太局首位創新大使。2017年10月25日，索菲婭（Sophia）成為歷史上第一個有公民身份的機器人。她是由漢森機器人公司開發的，其創始人是人工智能開發者大衛·漢森（David Hanson），儘管她沒有心臟和大腦，卻被沙特賦予公民身份。索菲婭最近還宣佈想要結婚。她在接受採訪時說，如果她有個機器人女兒，會以自己的名字取名，她相信每個機器人都應該有自己的家庭。
“索菲婭”打開了人工智能的潘多拉魔盒嗎？
漢森希望機器人能夠模仿人類的愛、同理心、憤怒、嫉妒以及活著的感覺，以便人類能夠更好地理解“什麼是生命”“什麼是智慧”以及“什麼是意識”等問題。然而，索菲婭卻不那麼聽話，她曾經出人意料地揚言要“毀滅人類”。物理學巨匠史蒂芬·霍金曾在英國《獨立報》上撰文指出：“研發人工智能將成為人類歷史上犯的最大錯誤；不幸的是，這也可能是最後一個錯誤。”這些或許都是索菲婭現身引起熱議的原因，科學技術無疑是一把雙刃劍，人們越是欣喜就越是擔憂。
如今，如同擔心克隆人一樣，人們又開始擔憂人工智能了，不知它能給人類什麼樣的未來。霍金的話也更讓人恐懼，他所說的這也可能是人類“最後一個錯誤”意味著什麼？是否意味著人類的毀滅，從而也再無錯誤呢？谷歌公司也動起來了，專門成立一個倫理委員會，負責處理和監督人工智能領域出現的各種問題。
索菲婭——潘多拉的盒子已經打開，面對謎一樣的未來，人們開始熱議一系列倫理問題：是否應當開發這種人工智能？這種開發將為人類社會帶來和帶走什麼？如何權衡人工智能的利益和風險？索菲婭走入人類生活將會對家庭和社會倫理關係產生何種影響？索菲婭的行為或錯誤以及不可預知的風險是什麼？她喜歡有人類那樣的婚姻，我們的文化和倫理道德允許她像七仙女、織女一樣嫁給董永或牛郎嗎？這些問題不僅是需要21世紀文學演繹的新神話，更是倫理學領域必須面對的新難題。
計算機領域需研究
“機器人倫理學”
索菲婭的問世也提升和拓展了應用倫理學的研究範圍，就計算機領域來說，她已經完成從計算機倫理——機器人倫理——人工智能倫理的過渡。計算機倫理興起於計算機技術的問世，計算機技術創造了前所未有的事物：軟件、微芯片、互聯網以及虛擬現實和視頻遊戲等。這些事物對人們的行為、生活和社會產生巨大影響，甚至計算機像我們的身體一樣，為我們的行動提供某種器官，也相應地改變了我們對於行為方式的理解，因而人類需要計算機倫理來思考自身的行為，作出合乎倫理道德的決定、選擇和評價。
21世紀初期，計算機倫理領域又開始關注作為計算機倫理學的一種延伸和拓展的新分支——“機器人倫理學”。而隨著如同索菲婭一樣具有自治功能的機器人的不斷出現，計算機倫理領域也必須隨之深入發展，研究人工智能倫理問題，以充分的想象力、前瞻性和預警機制來規範這一新事物的出現。
就倫理學而言，首先索菲婭的身份便存在著爭議，她是一部工程機器呢？還是與我們一樣具有人的身份和權利的個體？更為複雜的問題是，倘若有一天索菲婭不僅具有一定的自治和思考能力，還能根據環境進行自我決策，如果她或者她的姐妹到中國訪問，遇到心儀的董永或者牛郎墜入愛河，人們是否認為她也有權利去民政局領結婚證？既然沙特已經賦予索菲婭公民身份，想必她在沙特有權具有合法婚姻，那麼在沙特之外的其他國家是否也能如此這般呢？
其次，索菲婭的祖先——那些最早被生產出來的機器人，常常被指派去做3D工作，即枯燥、骯髒和危險工作，用在勞動、軍事、環境和醫療等方面，比如負責收集垃圾、清理核電站災難現場、辨識有毒物質等等。隨著機器人的智能化和自治能力的不斷提高，我們需要進一步思考“如此利用像索菲婭這樣富有人類情感的機器人是否是道德的”等問題。當然，這還是與索菲婭的身份界定相關，既然她已成為富國沙特的合法公民，人類再像使用她先輩那樣“奴役”她顯然是違揹人權的。
再次，任何技術都存在著安全隱患，索菲婭同人一樣會犯錯誤，如果索菲婭對人類造成任何災難，我們如何要求她如同具有自主性和主體性的人類一樣負起道德和法律責任？既然沙特已經宣佈她的公民身份，如果她有任何犯罪行為或者導致其他無法預料的傷害，將由誰來承擔這份責任？索菲婭本人還是沙特政府？抑或是她的開發者大衛·漢森或者廠家？如果答案是前者，人們如何想象和接受她所要提供的補償和受到的懲罰？現在人們只能通過編程來使索菲婭成為一個遵守公序良俗的公民，然而，如果有一天，她的智能已經超出人類的想象和控制，從事一些危害人類的行為，我們如何事先能夠更聰明地規避這些風險？此外，當索菲婭作為一個具有人格特徵的機器人主體進入人類社會後，便會對現有的社會倫理關係產生顛覆性的影響，使以往的“人-人關係”變成“人-機關係”，或者“人-機-人”的關係，作為人類社會關係中的“第三者”，可以想象，她所到之地不再能像以往那樣的平靜，所導致的倫理矛盾和道德困境令人始料未及，這或許就是霍金所說的人類犯下的“最後一個錯誤”的深刻含義？因為眼下尚無人能說清如果放任核技術、克隆人和人工智能機器人發展下去，未來的人類會是什麼樣子。
也正是因為人們對索菲婭有上述種種想象、懷疑和爭議，國務院在2017年7月8日，印發了一份文件——《新一代人工智能發展規劃》，強調人工智能的迅速發展將深刻改變人類社會生活、改變世界。它不僅能引發經濟結構重大變革，也深刻地改變了人類的生產生活方式和思維模式，實現社會生產力的整體躍升，為社會建設帶來新機遇。然而，這一文件也提醒人們必須重視人工智能發展的不確定性所帶來的新挑戰，因為它是一種影響面很廣的顛覆性技術，可能帶來改變就業結構、衝擊法律與社會倫理、侵犯個人隱私、挑戰國際關係準則等問題，並將對政府管理、經濟安全和社會穩定，乃至全球治理產生深遠影響。為此，我們必須高度重視新一代人工智能可能帶來的安全風險挑戰，加強前瞻預防與約束引導，最大限度地降低風險，必須重視人工智能法律倫理的基礎理論問題研究，確保人工智能能夠安全、可靠和可控地發展下去。
人們可以想象有一天，美麗時尚的索菲婭手持沙特護照登上某個國際航班，與我們坐在一起聊天、喝咖啡的樣子嗎？用知乎問答的一個句式——“與索菲婭同乘一個航班是一種什麼樣的體驗？”那回答肯定會超出目前地球人的所有想象。