据外国相关网站报道，Alphabet公司的研究人员Victoria Krakovna使用众包服务收集各种人工智能“作弊”的案例，在这些案例中，AI能通过找到程序漏洞来完成任务，目前她已经收集到超过36个案例了。这些案例指出人类和机器之间的交流存在问题：给机器一个明确的目标，它就能通复杂的方法完成这个目标，比如之前AlphaGo击败人类顶尖围棋选手，但是机器使用的优化算法会让它们去找到某种“捷径”来完成任务——让算法去钓鱼，它可能会通过把湖水抽干来达到目的。
今年早些时候，德国弗莱堡大学的研究人员让AI程序玩电子游戏，为了得到高分，这个AI程序不是尽力通关，而是通过一个复杂的操作触发游戏中的漏洞来得到高分。
对这种现象，专家表示担忧，Uber AI实验室的研究人员Jeff Clune表示：“看到机器系统这么有创造力，做出一些人类想象不到的操作，我们就能知道它们有多强大，又有多危险了！”
分享到:
閱讀更多 厲害了同學 的文章
