自动驾驶汽车的驾驶考试即将到来 | 智能交通

发布日期:2019-12-02 10:00
标准组织正在为机器人汽车制定安全规则,但编纂它们并非易事。


插图:iStockphoto

艾萨克·阿西莫夫(Isaac Asimov)科幻小说故事中的人工智能机器人安全三定律似乎简单明了,但虚构故事的演绎方式揭示了意想不到的复杂性。自动驾驶汽车安全标准的作者用类似的简单术语表达了他们的目标。但现在有几个小组正在制定自动驾驶车辆如何与人类以及彼此互动的标准,面临着比科幻小说复杂得多的现实世界问题。
 
 自动驾驶汽车的拥护者声称,把方向盘交给机器人可以减少全世界每年死于机动车的130万人的可怕死亡人数。然而,公众已经变得警惕起来,因为机器人汽车也可以杀人。美国国家运输安全委员会(National Transportation Safety Board)上周公布的文件将2018年3月亚利桑那州一名行人被自动驾驶优步(Uber)撞死的事故归咎于汽车安全驾驶员、公司和亚利桑那州的安全失误。即使是不太致命的安全故障也是致命的,比如一辆处于自动驾驶模式的特斯拉不够聪明,无法避免撞上一辆停了下来的消防车,而该消防车的警示灯正在闪烁。
 
 密歇根大学(University Of Michigan)Mcity自动车辆测试实验室副主任格雷格·麦奎尔(Greg McGuire)表示,自动驾驶汽车的安全标准“绝对关键”于公众对新技术的接受。“没有它们,我们怎么知道(自动驾驶汽车)是安全的,我们如何获得公众的信任?”他补充说,赢得这种信任需要通过公开的过程制定标准,公众可以审查,甚至可能需要政府监管。
 
 开发自主技术的公司已经注意到了这一点。今年早些时候,包括Aptiv、奥迪(Audi)、百度(Baidu)、宝马(BMW)、戴姆勒(Daimler)、英飞凌(Infineon)、英特尔(Intel)和大众(Volkswagen)在内的11家公司的代表合作撰写了一份内容广泛的白皮书,题为“自动驾驶的安全第一”。他们敦促在自动驾驶功能中设计安全功能,并使用更高的网络安全来确保重要数据的完整性,包括车辆环境中其他物体的位置、移动和识别。他们还敦促在广泛的操作条件下验证和验证机器人功能的性能。

11月7日,国际电信联盟宣布成立一个名为AI的自主和辅助驾驶重点小组。其目的是:为控制自动驾驶汽车的人工智能(AI)系统开发性能标准。(自1865年成立为国际电报联盟以来,国际电联已经取得了长足的进步,其任务是使电报服务的操作标准化。)。
 
 ITU打算将这些标准“等同于在我们的道路上进行人工智能的图灵测试”,自主驾驶员联盟的焦点小组主席Bryn Balcombe说。如果一台计算机可以愚弄一个人,让它认为自己是人类,那么它就通过了图灵测试。他说,人工智能测试至关重要,以确保人类司机和自动驾驶汽车背后的人工智能相互理解,并预测对方的行为和风险。
 
 一份规划文件称,人工智能的发展应该符合公众的期望,因此:
 
 ·AI从不从事粗心、危险或鲁莽的驾驶行为。
 ·AI始终意识到、愿意并能够避免碰撞。
 ·人工智能达到或超过称职、细心的人类驾驶员的性能。
 
 这些汽车人工智能算法的广泛目标类似于阿西莫夫定律,因为它们禁止伤害人类,并要求人类服从人类命令并保护自己的存在。但国际电联的文件包括15个“可交付成果”的清单,包括开发评估人工智能的规范,以及起草验证人工智能在道路上表现所需的技术报告。
 
 一个核心问题是说服公众将驾驶的特权--这可能是一种生死攸关的活动--委托给一项技术,这项技术遭遇了令人尴尬的失败,比如对少数族裔的错误识别,导致旧金山禁止警方和城市机构使用面部识别。
 
 麦奎尔说,测试人工智能驾驶能力是非常复杂的。人类的适应性使我们成为相当好的司机。“我们不是十全十美的,但我们非常擅长,通常在致命的交通事故之间有一亿英里,”他说。在现实世界的测试中积累那么多距离是不切实际的--而且它只是统计意义所需的数十亿车辆里程的一小部分。这是开发人员转向模拟的一个重要原因。计算机可以帮助他们增加寻找潜在安全缺陷所需的虚拟里程,这些潜在的安全缺陷可能只在罕见的情况下出现,比如在暴风雪或大雨中,或者在施工中的道路上。
 
 麦圭尔说,对于汽车人工智能来说,仅仅保证车辆的安全是不够的。“车辆必须以人类能够理解的方式工作。”当自动驾驶汽车在大多数人不会期望司机停车的情况下停车时,它们就会被追尾。一辆卡车可以是完全安全的,即使离得足够近,足以让骑自行车的人心灰意冷。
 
 其他组织也在开发机器人车辆的标准。国际电联正在涵盖自动驾驶辅助和全自动车辆。保险公司实验室正在制定全自动车辆的标准。自动车辆安全联盟(Automated Vehicle Safety Consortium)是一个包括汽车公司以及Lyft、Uber和SAE International(前身为汽车工程师协会)的组织,它正在为SAE 4级和5级自动驾驶车辆制定安全原则。BSI集团(前身为英国标准协会)为连接和自动驾驶车辆制定了英国标准战略,目前正在制定标准本身。
 
 制定标准需要多长时间?“这是一个研究过程,”麦奎尔说。建立公众信任和社会利益“需要多久就需要多久”。近期,Mcity已经与底特律市、美国交通部和Verizon合作,测试自动驾驶车辆在城市街道上运送老年人的能力。但他表示,该领域“需要是一个在更长时期内不断发展的活生生的东西”。