據外國相關網站報道，Alphabet公司的研究人員Victoria Krakovna使用眾包服務收集各種人工智能“作弊”的案例，在這些案例中，AI能通過找到程序漏洞來完成任務，目前她已經收集到超過36個案例了。這些案例指出人類和機器之間的交流存在問題：給機器一個明確的目標，它就能通複雜的方法完成這個目標，比如之前AlphaGo擊敗人類頂尖圍棋選手，但是機器使用的優化算法會讓它們去找到某種“捷徑”來完成任務——讓算法去釣魚，它可能會通過把湖水抽乾來達到目的。
今年早些時候，德國弗萊堡大學的研究人員讓AI程序玩電子遊戲，為了得到高分，這個AI程序不是盡力通關，而是通過一個複雜的操作觸發遊戲中的漏洞來得到高分。
對這種現象，專家表示擔憂，Uber AI實驗室的研究人員Jeff Clune表示：“看到機器系統這麼有創造力，做出一些人類想象不到的操作，我們就能知道它們有多強大，又有多危險了！”
分享到:
閱讀更多 厲害了同學 的文章
