英國《每日郵報》9月13日（北京時間）的一篇文章，以“現實版《2001太空漫遊》”作為大標題，報道了一臺能夠欺騙其他機器人、甚至欺騙人類的智能機器人。據研製機器人的科學家稱，這應是世界上第一例涉及機器人“欺騙行為”而進行的實驗。論文刊登在《國際社交機器人技術雜誌》上。
在美國電影大師斯坦利·庫布里克的殿堂級作品《2001太空漫遊》中，宇宙飛船上一臺名叫“哈爾”的智能電腦，劫持了飛船並施計殺死了4名機組人員，表現出人工智能的精湛“騙術”。
一直以來，人們認為這只是科幻電影中的場景，但現在，美國佐治亞州理工學院的科學家羅納德·亞金率領的研究小組編寫出了一套計算機運算法則，該高科技程序能讓機器人自主決定它是否面臨危險，以及是否應該通過欺騙另一個機器人或一個人的方式，讓自己安全地躲藏起來，而不被敵人發現。
為了防止機器人濫用“騙術”，科學家使其必須先滿足兩個必要條件後，才能獲得行使欺騙行為的授權：其一，它和搜尋者之間必須有衝突；其二，它可以從欺騙行為中獲得益處。再然後，科學家利用相互依存理論和博弈論開發出算法，測試欺騙行為可以獲得的收益，以教會機器人在辨別眼前的形勢後決定是否需要行使欺騙行為，並讓它能根據對“敵方”的瞭解程度，而調整欺騙策略以贏取最佳效果。
在實驗中，科學家讓兩個機器人進行了20次“躲貓貓”遊戲。其中安裝了新程序的“機器小騙子”多次製造出假的運動軌跡，順利躲過了另一個機器人的搜尋；但該機器人也會因為沒能成功施展出計劃中的騙術，被後者逮到而失敗，然而，整個實驗中，騙術成功的概率達75%。研究合作者、工程師艾倫·瓦格納稱：“它雖不甚完美，但仍證明新技術及算法可使機器人於雜亂環境下施行騙術。”
儘管有些人期待著“機器小騙子”在軍事上“大展拳腳”，但包括研究者本身在內的多數人，都看到了這其中暗含的倫理問題。他們擔心，假如某一天人工智能擺脫了人類意志而自行設下迷魂陣，屆時現實版的《2001太空漫遊》就將“粉墨登場”。
研究人員一致認為，必須保證機器人這些行為和預期完全一致並對社會有益。他們建議，就“騙子”機器人的適合性展開討論，爭取制訂出束縛這一系統的規章制度和指導方針。
閱讀更多 我們村的車神啊 的文章
