如果说督察是警察的警察。
中纪委就是监管者的监管者。
高等数学里面的"泛函"就是函数的函数。
哲学是科学的科学。
电影«青年马克思»就讲的是哲学牛人马克思。
软件狗是软件的监管者。
那么DeepXplore就是人工智能的人工智能。
姑且不说最新科幻大片«复仇者联盟3无限战争»的视觉特效如之何，不知你留意没有，里面提到了一个重要的问题:几千亿个神经元在平行运算，每个神经元的决策的监管是个大问题。
这个问题其实早在2017年就有一位科学家敏锐地觉察到。
美国哥伦比亚大学的计算机科学家杨俊锋（Junfeng Yang）认为，人工智能面临的一个关键挑战是，开发者通常并不知道神经网络内部是如何决策的，这导致出错后很难找出根源。
于是。。。
2017 年10 月，杨俊峰开发了一个名叫DeepXplore 的程序，可通过逆向分析人工智能系统的学习过程，寻找系统中的漏洞。
该程序会把真实世界中各种容易混淆误识的场景，输入某个神经网络进行测试，并且会在网络判断错误时予以告知，这样神经网络就能自行纠错。
比如，DeepXplore 能够判断，某个无人驾驶系统在接收到摄像机传入的照片后，是否会错误地把车导向行人，即使有万亿分之一的概率会发生，后果也是可怕的。
该调试工具监测神经网络中哪些神经元处在活跃状态，并且能单独测试每个神经元。 
玩过软件测试的人都知道，白盒测试工具一般是针对代码进行测试，测试中发现的缺陷可以定位到代码级，根据测试工具原理的不同，又可以分为静态测试工具和动态测试工具。静态测试工具直接对代码进行分析，不需要运行代码，也不需要对代码编译链接，生成可执行文件。静态测试工具一般是对代码进行语法扫描，找出不符合编码规范的地方，根据某种质量模型评价代码的质量，生成系统的调用关系图等；动态测试工具与静态测试工具不同，动态测试工具的一般采用“插桩 ”的方式，向代码生成的可执行文件中插入一些监测代码，用来统计程序运行时的数据。其与静态测试工具最大的不同就是动态测试工具要求被测系统实际运行。
7000多行代码测试一亿行代码的自动驾驶软件，监管千亿级的神经元的并行计算与决策。
这家伙这么简单能行吗？
不要嫌它简单，细菌里的CRISPR cas9简单吧？现在它可是基因科技里最红的，全靠它强大的定位裁剪录像能力。 
电影«狂暴巨兽»里面的野兽生长和侵略性格的获得背后的核心科技就是CRISPR cas9这种基因编辑技术。
閱讀更多 陶田園原生態食品 的文章
