全国统一客服热线

新闻动态

地址:

江苏省南京市玄武区玄武湖

手机:

新闻动态

当前位置:官网首页 > 新闻动态 >

​美专家4小时发现百度与英伟达自动驾驶系统561个关键安全故障

2019/11/06

马斯克曾说:“自动驾驭永久不会完美,但比人类驾驭安全10倍!”真是这样吗?伊利诺伊大学香槟分校的研讨人员开发了一种毛病评价技能,在对百度Apollo 3.0和英伟达专有自动驾驭体系DriveAV的测验中,4小时发现了561个要害安全毛病。


特斯拉CEO马斯克从前放话:“自动驾驭永久不会完美,但比人类驾驭安全10倍!”


但是,真是这样吗?


伊利诺伊大学香槟分校的一个研讨团队在剖析了自动驾驭公司2014年至2017年提交的一切安全陈述(包含144辆自动驾驭轿车,累计行进1116605英里)后,得出一个截然相反的定论:


在行进相同路程的状况下,自动驾驭轿车发作事端的或许性是人类驾驭轿车的4000倍。


而就在最近,这个研讨团队开发的一种针对自动驾驭的毛病评价技能,在对百度Apollo 3.0和英伟达专有自动驾驭体系DriveAV的测验中,短短4小时就发现了561个要害安全毛病!


这个研讨团队致力于运用人工智能和机器学习,通过软件和硬件的改进来进步自动驾驭技能的安全性。


“因为车辆电气和机械组件的杂乱性,以及气候、路况、地势、交通方式和照明等外部条件的改变,运用AI来改进自动驾驭车辆十分困难。”伊利诺伊大学CSL试验室教授Ravishankar K.Iyer说,“现在咱们正在取得发展,但安全仍是一个严重问题。”


​美专家4小时发现百度与英伟达自动驾驭体系561个要害安全毛病


Ravi Iyer


研讨小组现在正在开发技能和东西,然后找到影响自动驾驭车辆安全的驾驭条件和问题。运用他们的技能,能够找到许多的至关安全的场景,在这些场景中,一个小小的过错就或许变成大祸。如此一来节省了许多的时刻和金钱。


在对百度Apollo 3.0和英伟达DriveAV的测验中,该团队所开发的毛病注入引擎DriveFI在4小时内发现了500多个该软问题。


​美专家4小时发现百度与英伟达自动驾驭体系561个要害安全毛病


示例场景:(1)方针FI导致危险状况;(2)特斯拉自动驾驭仪的实在比如与注入毛病相似


这样的发现让这个团队的作业得到了业界的重视。该团队正在为他们的测验技能申请专利,并方案很快进行布置。抱负状况下,研讨人员期望公司运用这项新技能来模仿已发现的问题,并在布置轿车之前处理问题。


自动驾驭事端或许性比人驾驭高4000倍,安全评价面临应战


“咱们团队正在应对一些应战,”领导该项意图核算机科学博士生Saurabh Jha说。“处理这一应战需求跨过科学、技能和制作的多学科尽力。”


为什么这项作业应战性很大?因为自动驾驭是运用AI和机器学习来集成机械、电子和核算技能以做出实时驾驭决议计划的杂乱体系。典型的自动驾驭体系就像放在轮子上的微型超级核算机;具有50多个处理器和加快器,运转着超越1亿行代码,来支撑核算机视觉、规划和其他机器学习使命。


这些车辆的传感器和自动驾驭仓库(核算软件和硬件)有或许存在问题。当一辆轿车以每小时70英里的速度在高速公路上行进时,毛病对司机来说或许是一个严重的安全隐患。


“假如一辆一般轿车的驾驭员感觉到比如车辆漂移或拉力之类的问题,他/她能够调整自己的行为并将车辆引导到一个安全的泊车点。”Jha解说说:“但是,在这种状况下,除非自动驾驭轿车针对这些问题进行了练习,不然自动驾驭轿车会怎么应对是不行猜测的。在实践国际中,这样的比如不计其数。”


大都人在电脑或智能手机上遇到软件问题时,最常见的反应是关机重启。但是,此办法不主张用于自动驾驭轿车,因为耽搁的每一毫秒都会影响成果,而呼应稍慢一点就或许会导致逝世。在曩昔的几年里,因为自动驾驭引发的各种事端,人们对这种依据人工智能的体系的安全忧虑不断添加。


“现行法规要求Uber和Waymo等在公共路途上测验无人车的公司,每年要向加州车辆管理局(DMV)陈述其车辆的安全性,”CSL和核算机科学专业的研讨生Subho Banerjee说。“咱们想了解常见的安全问题有哪些,轿车的功能怎么,以及抱负的安全标准是什么,以了解自动驾驭体系的规划是否足够好。”


该团队剖析了2014年至2017年提交的一切安全陈述,包含144辆自动驾驭轿车,累计行进1116605英里。他们发现,在行进相同路程的状况下,自动驾驭轿车发作事端的或许性是人类驾驭轿车的4000倍。这意味着,自动驾驭技能不能妥善处理状况的概率之高十分惊人,往往要依托人类驾驭员来接收。


研讨人员和公司在企图改进这种状况时遇到的一大应战是,在自动驾驭轿车体系呈现特定的问题之前,很难练习软件来战胜它。


此外,软件和硬件仓库中的过错仅在某些驾驭场景下才体现为安全要害问题。换句话说,在高速公路或空阔/不太拥堵的路途上进行的自动驾驭轿车测验或许是不行的,因为这种状况下即便发作软件/硬件毛病也很少导致安全问题。


​美专家4小时发现百度与英伟达自动驾驭体系561个要害安全毛病


车辆模仿


真的发作毛病时,往往是在轿车现已行进了数十万英里之后。为了测验这些自动驾驭轿车,需求花费许多的时刻、金钱和精力,这使得测验进程十分低效。因而,研讨团队决议运用核算机仿真环境和人工智能来加快这一进程。


“咱们将自动驾驭轿车的软件和硬件仓库中的过错注入到核算机仿真环境中,然后搜集自动驾驭轿车对这些问题的呼应数据,”Jha说。“与人类不同,当今的AI技能无法推理出不同驾驭场景中或许呈现的过错。因而,需求许多的数据来教会软件在面临软件或硬件毛病时采纳正确的举动。”


DriveFI:4小时发现百度Apollo、英伟达DriveAV 561个毛病


研讨人员在论文“ML-based Fault Injection for Autonomous VehiclesA Case for Bayesian Fault Injection”中,介绍了一种依据机器学习的毛病注入引擎DriveFI,它能发掘最大程度地影响自动驾驭安全性的状况和毛病,这在两个工业级自动驾驭体系(来自NVIDIA和百度)上得到了证明。


​美专家4小时发现百度与英伟达自动驾驭体系561个要害安全毛病


论文地址:


https//arxiv.org/pdf/1907.01051.pdf


例如,DriveFI在不到4小时的时刻里发现了561个安全要害毛病。相比之下,花了数周进行的随机注入试验没有发现任何安全要害毛病。


​美专家4小时发现百度与英伟达自动驾驭体系561个要害安全毛病


毛病注入试验


自动驾驭轿车(Autonomous vehicles,AVs)是一个杂乱的体系,它运用人工智能和机器学习来集成机械、电子和核算技能以做出实时驾驭决议计划。AI使自动驾驭轿车能够在杂乱的环境中导航,一同坚持安全规模,该安全规模由机载传感器(如相机、激光雷达、雷达)不断地丈量和量化。因而,迫切需求对自动驾驭技能进行全面评价。


​美专家4小时发现百度与英伟达自动驾驭体系561个要害安全毛病


ADS的架构


但是,在实践的驾驭环境中对这些体系进行评价一向具有应战性,特别是因为随机毛病的呈现。毛病注入(Fault injection,FI)是用于测验核算和网络物理体系在毛病下的弹性和过错处理才干的一种老练办法。依据FI的自动驾驭评价提出了一个共同的应战,不只因为自动驾驭的杂乱性,也因为AI在这样一个自在活动的操作环境中的中心位置。此外,自动驾驭体系代表了软件和硬件技能的杂乱集成,这些技能现已被证明简单呈现硬件和软件过错。未来,代码杂乱性的添加只会加重这个问题。


​美专家4小时发现百度与英伟达自动驾驭体系561个要害安全毛病


DriveFI架构


DriveFI是一种用于自动驾驭的智能FI结构,它通过辨认或许导致磕碰和事端的危险状况来应对上述应战。


DriveFI包含(a)一个FI引擎,能够修正自动驾驭体系(ADS)的软件和硬件状况以模仿毛病的发作;和(b)依据ML的毛病挑选引擎,咱们称之为贝叶斯毛病注入(Bayesian fault injection),能够找到最有或许导致违背安全条件的状况和毛病。相比之下,传统的FI技能往往不重视安全违规,在实践中体现率较低,并需求许多的测验时刻。请注意,在给定一个毛病模型的状况下,DriveFI也能够履行随机FI来取得基线功能。


本研讨的奉献


DriveFI的Bayesian FI结构能够通过对ADS在毛病下的行为进行因果推理和反现实推理,然后发现要害安全状况和毛病。


它通过(a)以车辆运动学和AV架构的方式整合范畴常识,(b)依据横向和纵向泊车间隔的安全建模,(c)运用实在的毛病模型来模仿软件过错,然后做到这一点。(a)、(b)和(c)被集成到一个贝叶斯网络(BN)中。


BN供给了一种有利的方式化办法,即用可解说的模型来对毛病在AV体系组件之间的传达进行建模。该模型与毛病注入成果可用于规划和评价AV的安全性。


此外,BN支撑快速概率推理,这使得DriveFI能够快速找到对安全要害的毛病。


Bayesian FI结构能够扩展到其他安全要害体系(如手术机器人)。该结构要求对安全约束条件和体系软件架构进行标准,以建模体系子组件之间的因果关系。


​美专家4小时发现百度与英伟达自动驾驭体系561个要害安全毛病


自动驾驭轿车的自主体系和机械体系,及其与DriveFI的交互作用。


研讨小组在两个工业级的4级ADS上演示了这种办法的才干和通用性,分别是DriveAV(NVIDIA的专有ADS)和Apollo 3.0(百度的开源ADS)。


成果


研讨团队运用三种毛病模型:(a)非ECC维护的处理器结构中的随机毛病和共同毛病;(b)ADS软件模块输出中的随机毛病和共同毛病;(c)ADS模块输出中被Bayesian FI损坏的毛病。


首要成果包含:


运用过错模型(b),咱们编制了一个包含98,400个过错的列表。在模仿的驾驭场景中,假如要对一切98,400个毛病进行完全的评价需求615天。相比之下,Bayesian FI能够在不到4小时的时刻内找到561个对AV安全性影响最大的毛病。也就是说,Bayesian FI比传统办法快了3690倍。


Bayesian FI能够发现导致安全隐患的要害毛病和场景。(a)在561个已确认的毛病中,460个显现为安全隐患。(b)这460个毛病与68个安全要害场景有关(一共7200个场景)。


通过对发掘出的要害毛病进行检测,发现最简单发作车辆磕碰事端的ADS模块输出前3位分别是节气门值(561个要害毛病中的24%)、PID控制器输入(18%)和传感器交融妨碍类值(15%)。Bayesian FI用于创立违背车道的方针的ADS模块输出是:(a)车道类型值(2%)、(b)油门(1.4%)、(c)转向(1.4%)。56%的毛病类型从未被Bayesian FI运用过;例如Bayesian FI从未注入到相机传感器目标分类模块的输出中。


​美专家4小时发现百度与英伟达自动驾驭体系561个要害安全毛病


运用FI取得的毛病/过错影响表征


相比之下,在5000次random FI试验的几周内,没有发现一个安全隐患。只要1.93%的单比特注入导致了静态数据损坏(SDC),然后导致发动过错。ADS从一切这些过错中康复了,没有任何安全违规。在7.35%的FIs中,发作了内核惊惧和死机。预期能够通过AV中现有的备份/冗余体系从这些毛病中康复。


作者标明,Bayesian FI办法发掘要害状况将具有比毛病注入法更广泛的适用性。结合一系列毛病注入试验的成果来创立一个状况库,将有助于制作商拟定AV测验和安全驾驭的规矩和条件。


自动驾驭问题多,离真实上路还有多远?


这项新研讨标明,即便像百度、英伟达这些大厂的自动驾驭技能也存在不少问题,并且自动驾驭技能还有许多不能妥善处理状况,往往要依托人类驾驭员来接收。


关于自动驾驭这一新生事物,安全性是最受重视的,以至于一旦无人车发作事端马上就会成爆破新闻。自2016年头以来,加州共陈述了111起触及自动驾驭轿车的撞车事端(这还不包含或许形成的事端危险)。依据对DMV陈述的剖析,其间71起事端发作时,车辆处于自动驾驭方式。其间,有挨近70%触及自动驾驭车辆被追尾事端。


最典型的是Uber上一年3月的“全球首起无人驾驭致死”事端:一辆处于自动驾驭方式的Uber无人车在路途测验时发作致死事端。


​美专家4小时发现百度与英伟达自动驾驭体系561个要害安全毛病


事情发作于凤凰城以东11英里的Tempe镇。其时,Uber无人车正在向北行进,一名女子在人行横道外穿,被车辆撞倒,被送往医院后,因为伤势过重逝世。


虽然通过近一年的查询后证明,Uber在这起事端中不担刑责,但事端直接导致Uber自动驾驭事务元气大伤。


对自动驾驭技能较为急进的特斯拉,其Autopilot自动驾驭仪也一再发作事端,包含一同“一辆Model X在自动驾驭方式下撞上高速公路护栏”的致死事端,装上货车、追尾消防车等等,每一同事端都冲击着群众对自动驾驭的信赖度。


​美专家4小时发现百度与英伟达自动驾驭体系561个要害安全毛病


特斯拉自动驾驭致死事端


这样看来,在无人车上路前就检测到或许存在的自动驾驭体系的毛病显得尤为重要。关于伊利诺伊大学香槟分校的研讨团队在4小时内发现了百度Apollo 3.0、英伟达DriveAV体系存在561个毛病,你怎么看?你觉得自动驾驭什么时候才干真实上路呢?


参阅链接:


https//www.sciencedaily.com/releases/2019/10/191025170813.htm


https//arxiv.org/pdf/1907.01051.pdf


注:文章内的一切配图皆为网络转载图片,侵权即删!


网站首页| 关于我们 | 产品展示 | 荣誉资质 | 新闻动态 | 成功案例 | 人才招聘 | 留言反馈 | 联系我们 |

Copyright © 2018 凯发娛樂凯发娛樂-凯发账号-凯发真人 All Rights Reserved 电话:

江苏省南京市玄武区玄武湖 ICP备案编号: