对于像洛杉矶这样的交通密集型城市的许多人来说，这是一个很大的问题：自动驾驶汽车什么时候到达？但在美国发生一系列引人注目的事故后，安全问题可能会使自主梦想戛然而止。
在南加州大学，研究人员发表了一项新研究，解决了自动驾驶汽车开发人员长期存在的问题：测试系统的感知算法，让汽车“理解”它所“看到的”。
与亚利桑那州立大学的研究人员合作，该团队的新数学方法能够在汽车上路之前识别系统中的异常或错误。
感知算法基于卷积神经网络，由机器学习驱动，这是一种深度学习。众所周知，这些算法难以测试，因为我们并不完全了解他们如何进行预测。这可能会对自动驾驶汽车等安全关键系统造成破坏性后果。
“使感知算法健壮是自治系统面临的首要挑战之一，”该研究的主要作者，南加州大学计算机科学博士生Anand Balakrishnan表示。
“使用这种方法，开发人员可以更快地缩小感知算法中的错误，并使用这些信息来进一步训练系统。汽车必须通过碰撞测试以确保安全，这种方法提供先发制人的测试，以捕捉自动系统中的错误。“
该论文名为“为基于视觉的感知系统指定和评估质量指标”，于3月28日在意大利举行的欧洲设计，自动化和测试会议上发表。
通常，自动驾驶车辆通过机器学习系统“学习”世界，机器学习系统在他们可以自己识别物体之前馈送大量道路图像数据集。
但系统可能会出问题。在去年3月在亚利桑那州的一辆自动驾驶汽车和一名行人之间发生致命事故的情况下，该软件将该行人归类为“误报”，并决定不需要停车。
“我们认为，显然这种感知算法的训练方式存在一些问题，”该研究的共同作者Jyo Deshmukh表示，他是南加州大学计算机科学教授，前丰田汽车研发工程师，专门研究自动驾驶汽车安全。
“当一个人看到一个视频时，我们隐含地使用了关于持久性的某些假设：如果我们在视频帧中看到一辆汽车，我们希望在下一个视频帧中的附近位置看到一辆汽车。这是我们希望感知算法在部署之前满足的几个“理智条件”之一。“
例如，对象不能从一帧到下一帧出现和消失。如果是这样，它违反了“理智条件”或物理基本定律，这表明感知系统存在缺陷。
Deshmukh和他的博士生Balakrishnan，以及USC博士生Xin Qin和硕士生Aniruddh Puranic，与三位亚利桑那州立大学的研究人员合作调查了这个问题。
该团队制定了一种新的数学逻辑，称为定时质量时间逻辑，并用它来测试两种流行的机器学习工具-Squeeze Det和YOLO-使用驾驶场景的原始视频数据集。
逻辑成功地磨练了机器学习工具的实例，这些工具违反了视频中多个帧的“健全状况”。最常见的是，机器学习系统未能检测到对象或对对象进行错误分类。
例如，在一个示例中，当自行车的轮胎看起来像细垂直线时，系统未能从后面识别骑车人。相反，它将骑自行车者误解为行人。在这种情况下，系统可能无法正确预测骑车人的下一步行动，这可能导致事故。
幻影对象 - 系统在没有对象的情况下感知对象 - 也很常见。这可能会导致汽车错误地撞上休息时间 - 这是另一个有潜在危险的举动。
团队的方法可用于在部署之前识别感知算法中的异常或错误，并允许开发人员查明特定问题。
我们的想法是在虚拟测试中捕捉感知算法的问题，使算法更安全，更可靠。至关重要的是，因为该方法依赖于“健全条件”库，所以人类不需要在测试数据集中标记对象 - 这是一个耗时且经常有缺陷的过程。
在未来，团队希望在发现错误时将逻辑结合起来重新训练感知算法。它还可以扩展到实时使用，同时汽车正在驾驶，作为实时安全监控器。
