穆斯塔法·苏莱曼 （MUSTAFA SULEYMAN）
要建立新机制，让人工智能的社会影响研究有进展
从全球气候变化到人口扩张再到医疗保健，人类面临着极其复杂的各种挑战。如果不及时干预，这些问题有可能造成前所未有的大规模破坏。幸运的是，人工智能领域可以发挥创新的作用，其发展可以帮助我们解决这些问题。
人工智能技术在融入人类经济社会过程中也带来了很多挑战。它可以帮助改善经济不平等，但如果利益分配不均，反而可能会使局面恶化。它可以为消除人类偏见点亮一盏明灯，帮助解决社会问题，也可以使得歧视与偏见更加根深蒂固。想要把握正确的发展方向，需要对人工智能可能引发的社会后果进行认真仔细的研究，并建立起合作伙伴关系，以确保技术真正为公共利益服务。这就是为什么我预测人工智能的道德伦理、安全和社会影响将成为未来一年内最紧迫的研究领域之一。
我们已经在这方面做了一些有价值的工作：比如，人们正在达成共识，即开发新技术有助于解决不平等、不公正和偏见歧视问题。 2018年，我们将看到更多的组织机构开始着手用技术来解决这些问题。
当然，这并不是一件容易的事情：技术部门的思维方式相对简单直接，尽管他们会随时追踪和优化选择指标，但这些指标的确很难替代十分复杂的价值判断。例如，“点赞”并不能简单的理解为“被喜欢”，或理解为影响到“自信”或“自尊”。技术带来的社会影响很重要，它既可以创造出有利于解决社会问题的大环境，也可能营造出讨厌和害怕的氛围，比如人们会对仅考虑商业利益而忽视社会利益非常不满。要有所进展，我们需要建立公众直接参与的决策和发声的新机制。对于往往倾向于单方面解决问题或者直接将问题推给他人处理的部门来说，新机制的建立将是一个彻底的改变。
DeepMind公司：科技工作者已经真正在为改善世界而努力
作为社会的角色之一，我们看到很多科技工作者已经真正在为改善世界而努力。科技工作者们相信自己与那些致力于让世界更美好的人本质上是息息相连的。受此鼓舞，特里斯坦·哈里斯（Tristan Harris）正组建新联盟来对抗分散人们注意力的“注意力经济”，他曾经发起过Time Well Spent活动。凯特·克劳福德（Kate Crawford）和梅雷迪思·惠特克（Meredith Whittaker）共同创立了AI Now小组以研究技术的社会影响，他们此前分别就职于微软和谷歌。人工智能联盟（Partnership on AI）首次将众多包括DeepMind在内的领先人工智能实验室与美国公民自由联盟（American Civil Liberties Union）等知名非营利组织联合在一起，旨在鼓励技术人员和社会活动家的平等参与。
想把这些问题弄清楚不能只单纯出于善意，我们还需要完成艰难、实际和纷繁复杂的工作来找出人工智能伦理道德的真正含义。如果我们设法让人工智能服务于人类和地球，带来的影响可能极具转型意义。现在，一切才刚刚开始。
作者简介：穆斯塔法·苏莱曼（Mustafa Suleyman）是英国企业家，DeepMind Technologies的联合创始人之一。19岁时，穆斯塔法·苏莱曼从牛津大学辍学，成立了穆斯林青年求助热线，帮助年轻的穆斯林克服就业与心理健康等方面的障碍。之后他担任伦敦市长肯·利文斯通（Ken Livingstone）的政策官。他还曾为联合国、荷兰政府和世界自然基金会工作，担任谈判官和协调人。他参与创立的DeepMind Technologies于2014年被Google收购，他本人担任Google DeepMind的应用AI主管。
编译：高亦杨
原文链接：http://www.wired.co.uk/article/mustafa-suleyman-deepmind-ai-morals-ethics
閱讀更多 今日頭條智庫 的文章
