文章：Why AI Leads Us to Think Less, Act Impulsively
编译：Skye
自从MIT的教授 Bernhardt Trout 把工程师伦理课改为聚焦于人工智能的伦理，修课的从2009开始每个学期都会超过150人。当深度学习、神经网络成为人们研究的中心“人们开始越来越关心AI，特别是未来的发展。”Trout说。
一个关键的变化，根据Trout的说法是：“这些人工智能促使我们越来越少去思考，越来越一些或对或错的映像，而不基于一些信息然后我们自己做出决定。通常我们在得到一个答案后，就不再关注了。而现在各种算法促这种心理越发严重”
这种对算法的盲目信任有很多可能产生负面影响。例如，当你开始相信你在Facebook新闻Feed中看到的一切，它是由人工智能算法驱动的，你最终只会看到证实你观点和偏见的文章，你可能会对相反的观点变得不那么宽容。
在其他平台，内容推荐算法会在无意间重塑你的认识，并将你慢慢应导向一个特定的方向。然而在一些领域这中算法造成的盲目信任会造成很大的后果，像是金融体系的借贷，犯罪审理等。“我们需要记得这些都是算法，这是一个很好的论据反对认为人类生活中的一切都可以简化为数学，” Trout警告说。
Ai为什么可以给出决策？这其中又有什么问题？
一个如今面临的很重要的问题就是AI的可解释性。深度学习从数据和非常复杂的工作中学习和发展出的逻辑，可能是模型设计者都复发理解的黑箱。和可能会造成很严重的麻烦，特别是涉及到一些伦理问题。
“用深度学习和神经网络等方法追踪决策和分析变得更加困难。”Element AI的Marc Etienne Ouimet说：“当机器学习给出决策和信息的时候，如何去理解以及解释背后的逻辑的能力，在现在的环境中已经变得越来越重要了。你需要知道它是如何影响结果的，否则你无法有效地为滥用人工智能系统造成的损害寻求补救。”
这种缺乏透明度也使得该算法中很难发现和解决道德问题。例如，在一个案例中，一个用于预测累犯的人工智能算法默默地使用邮政编码作为确定被告再次犯罪的可能性的一个因素，并最终对黑人被告产生偏见，即使程序员已经从他们的数据集中删除了种族信息。
在另一个案例是，招聘算法会对简历中包含“女性”一词的求职者有偏见。最近，苹果公司的新信用卡被发现对女性有偏见，因为它使用的人工智能算法，给女性提供的信用比男性低20倍。
在这些情况下，开发人员已经竭尽全力从数据中删除任何可能导致算法偏差的特征。但人工智能经常发现错综复杂的关联，间接暗示了性别和种族之类的事情。如果没有任何方法来研究这些算法，找到这些有问题的相关性就成了一个挑战。
硅谷的回应：关心，但更爱投资回报率
对人工智能伦理越来越感兴趣的另一个因素是商业部门的积极参与。
特鲁特教授说：“虽然深度学习和神经网络的发展是人们日益关注人工智能伦理的一部分，但另一个主要贡献者是……科技界的领袖们提出了这个问题，并试图积极向更广泛的公众公布他们的观点。”。
比尔盖茨（Bill Gates）和埃隆•马斯克（Elon Musk）等高管，以及斯图尔特•罗素（Stuart Russell）和已故斯蒂芬•霍金（Stephen Hawking）等科学家，都曾就人工智能可能带来的可怕的意外后果发出过警告。而像微软和谷歌这样的科技巨头也被迫解释他们对人工智能的态度，并制定道德准则，特别是在把他们的技术卖给政府机构时。
“道德准则是一个良好的开端，但在整个公司实施这些准则才是最重要的。从基础/应用研究到产品设计、开发和部署，每个团队都必须了解这些准则是如何应用于他们的功能的，”Element AI的Ouimet说。
Ouimet还强调，公司需要与立法者积极合作。”对于拥有技术专长的企业来说，与监管机构真诚合作，帮助他们了解技术带来的风险和本质，这一点非常重要。”。
Element AI最近与洛克菲勒和Mozilla基金会合作，就人权框架在人工智能治理中的作用向政府和公司提出一份建议清单。“此次合作的重点是推进对数据信托的法律、治理和技术组成部分的研究，AI和Mozilla基金都认为数据信托作为安全和道德的数据共享机制，具有巨大的潜力，正如许多政府迄今所设想的那样。”Ouimet说。
但Trout 教授对科技公司参与人工智能伦理的看法略有不同。”归根结底，他们这么做很大程度上是出于商业原因。他们想让员工开心。这就是谷歌决定不与国防部合作的原因。他们想让他们的客户和政府高兴，他们想提高他们的底线，”他说。“我没有看到这些公司真正提倡深思熟虑过伦理道德问题。他们有资源，有能力，不应该是现在这样。我觉得这很遗憾。”
原文链接：https://www.pcmag.com/opinions/why-ai-leads-us-to-think-less-act-impulsively
欢迎关注【数据小盐罐儿】，下次再来呀
閱讀更多 數據小鹽罐兒 的文章
