AutoR智驾 2018-10-29 11:44
亟需为自动驾驶汽车立规则的今天,“电车难题”为什么没有世界通行的道德准则
分享
自动驾驶从法律法规到技术细则以致道德伦理都在进入一个崭新的阶段。

 

自动驾驶汽车正在快步进入我们的生活,在一些特定场合,无人驾驶已经开始投入使用。2018年可以视为汽车主销车型正全面迈向L2级自动驾驶的一年,部分高端车型已接近L2.5级。

在这样的背景下,在美欧等国政府机构在为自动驾驶设立规则的同时,相关自动驾驶创业团队和研究机构也开始为自动驾驶设计规则和交通伦理。

而自动驾驶面临的最大难题即是在发生事故时,既有伦理上的也有安全上的。

近日谷歌母公司Alphabet旗下自动驾驶公司Waymo为自动驾驶汽车发布了新版的《事故与应急指南》,而著名的MIT则对“电车难题”进行了一轮世界范围内的调查,得出了一个不同文化情景下对电动难题的处理也大为迥异的结果,它意味着人类不可能为自动驾驶的电车难题用一种算法来解决。

对于电车难题,智驾君曾经提出一个思路,当我们认真对待电车难题的时候,意味着我们诚认自动驾驶时代或者无人驾驶并不会完全无事故,也意味着人类接纳无人驾驶的前提是接受机器可能犯错。

下面我们先来大致了解一下Waymo对于自动驾驶《事故与应急指南》的更新。

近期刚刚被丰田耍了一道的Waymo,被传可能会迎来大众汽车的投资。据德国《经理人》杂志报道,大众汽车正与Waymo探索在欧洲移动出行服务领域达成合作伙伴关系。报道称,大众首席执行官迪斯(Herbert Diess)希望投资120亿欧元(约合137亿美元)收购Waymo 10%的股份,但监事会不支持迪斯花费如此大手笔进行收购。

不过对此报道,大众汽车拒绝置评。

Waymo在去年曾宣布放弃对L3等过渡阶段的研发投入,而直接进入完全自动驾驶阶段。

目前其正试图将 Pacifica 混动原型车提升到 L4 级别的无人驾驶,这意味着方向盘后没有真人操作,因此远程互动将变得至关重要。出于同样的原因,车辆的登记和保险信息,也会在在前遮阳板上突出显示。

此外,更新的应急指南还介绍了在发生碰撞或其它严重事故时,机器该如何与应急救援机构取得联系。其中一个有趣的注意事项,就是无法在车门打开的情况下继续自动驾驶。

需要指出的是,该指南并非简单的假设。因为今年早些时候,Waymo 自动驾驶汽车在凤凰城遭遇了一次事故。而新发布的指南,有助于乘客和应急救援人员清楚地知晓相关信息。

Waymo 的建议是,只需打开车门,应急救援人员就能够解除自动驾驶模式。若车门被锁定,那就先破窗再开门。最后,在电池断开之前,应该至少保持一扇车门的开启。

实际上,发生严重事故的时候,安全气囊会自动弹开。

车辆会自动停靠、并立即致电 Waymo 支持团队,以便为现场提供帮助。

这些设定虽然细碎,但它确实关系每一个敢于进入自动驾驶汽车内人员的安危。

相比而言,MIT 刚刚发布的一份名为《机器道德》(The Morol Machine)的调查更为有趣一些,它是一份在线调查问卷。

来自世界各地的受访者,被要求在各种情况下作出两种选择,类似于著名的“电车难题”(Trolley Problem)。

在紧急情况下,自动驾驶汽车应该撞到一群儿童(或老人)、还是一名流浪汉(或企业高管)?

在周三的新闻发布会上,MIT 研究人员对某些原则达成了一致意见。

总的来说,自动驾驶汽车应该视人类的生命权高于动物、拯救更多人(而不是少数)和年轻的生命(而不是老年人)。

不过真正有趣的是,研究发现,受访者所处的地区和文化氛围,对其偏好有着更大的影响。

在芬兰和日本等相对发达的国家和地区,受访者普遍认为应该撞向违反交通规则的那帮人。

但在经济发展极不平衡的哥伦比亚,旁观者又觉得应该撞死一个流浪汉、而不是一位企业高管。

这份调查得出的基本结论是,自动驾驶汽车在面临“电车难题”时,规则设定者很难给出一个通行的道德准则。

*研究配图

研究作者将受访者大致分成了三个地理和文化区域,分别是东部、西部和南部,并且理出了其中的差异:

与北美和西欧相比,包括亚洲在内的东方区域,受访者更倾向于牺牲年轻人、而不是老年人。

与东西方区域的受访者相比,南方地区(包括南美洲等地)的人们,更倾向于挽救妇女的生命。

对开发商来说,其底线是为自动驾驶汽车编制一套明确的道德准则。但从这项研究来说,全球并没有一个简单而统一的道德选择方案。

论文第一作者、MIT 博士后 Edmond Awad 在一份声明中称 —— 研究试图了解自动驾驶汽车在不得已的情况下必须作出的道德决策,但我们还不知道它们到底应该怎么做。

有关这项研究的详情,已经发表在近日出版的《自然》(Nature)期刊上。原标题为:《Self-driving car dilemmas reveal that moral choices are not universal》。

对于电车难题,智驾君曾有长文分析,在智能驾驶时代这些规则的设定是尊重公序良俗还是市场法则,或者人道原则与不同国家之间的发展阶段悉悉相关。

它更深层次的问题是我们如何界定机器和人之间的责任,是规因于机器的所有者还是负责机器运转的人。这样的问题,最终可能依然要交由政府对于自动驾驶运营环境的设置和要求。

而对于人类一旦接受机器可能会像人一样犯错,那么具体情况自然会有一个更客观的处理方式,因为对于机器而言辨别面前的行人是男人还是女人或者50岁的老人还是因为30岁的中年人,这样的设定既给自己平添烦恼也过于苛责机器。

与这两家机构发布的新方法和研究相比,在今年10月底4日美国交通部发布的新版自动驾驶汽车和自动驾驶系统(ADS)指导文件也基本上对于自动驾驶持鼓励态度,它意味着美国政府愿意接受一个可能犯错的自动驾驶汽车出现在道路之中。

这份最新指导文件名为《准备迎接未来交通:自动驾驶汽车3.0》。

2.0版指导文件于2017年9月发布,更新替代了2016年9月发布的1.0版本。

可以说美国交通部保持着每年更新一次指导新规的频次。

此次发布的3.0版指南解决了之前版本中未涉及的进一步整合问题。

最新指南并不是要取代第二版,而是通过增加整合和系统相关问题进一步对2.0版补充和完善。

2.0版中关于测试程序的准则仍然有效。

美国交通部在声明中表示:“自动化技术是新生事物,并且在迅速发展。实现安全改善的正确方法首先是消除不必要的阻碍,因此我们发布的是自愿性指南,而非阻碍创新的强制性法规。”

在AV 3.0版指南中,交通部阐明了它对自动驾驶汽车未来决策、法规和策略进行评估的基本原则。

该指南为企业理解和学习预测交通部在未来可能采取的行动奠定了基础。

该部门表示,它将优先考虑安全问题,考虑到自动驾驶系统(ADS)将带来新的安全风险,将尝试平衡安全改善的潜力。

交通部希望采用灵活变通、技术中立的政策,而不是规定具体的技术解决方案。

最重要的因素之一是交通部表示将会使法规现代化。文件中写道:“以此为起点和前进的方向,美国交通部将遵照所有适用的通知和意见,根据情况调整对于’驾驶者’和‘操作者’定义的理解,承认二者所指并非仅限于人类,也包括自动驾驶系统。”。

除了更新以及取消过时的规定外,交通部还将制定灵活标准以适应未来发展需要。

作为一个联邦机构,交通部将鼓励建立全国统一的监管框架和运营环境。

交通部表示,另一个原则是大力推动发展,并“将提供指导、最佳实践、试点项目等方面的协助,帮助我们的合作伙伴制定计划和投资,以打造动态和灵活的自动化未来。

交通部还将在辅助方面做好准备,提供互补技术(例如车辆和周围环境之间的通信)来提升自动化安全性能,但并不会假设哪种具体技术会普遍实现。”

这表明,交通部可能最终会提出与车对车通信相关的部署计划。最后,美国交通部还表示,将继续支持用户自行驾驶汽车以及方便残疾人和老年人出行的自动化车辆技术。

交通部还列出了五项实施战略。

包括提高利益相关者和公众的参与度;

提供最佳实践和政策建议以支持利益相关者;

支持自愿性技术标准;

开展有针对性的研究;

以及法规的现代化更新。

交通部还概述了自动驾驶汽车开发阶段安全风险管理的概念框架,并期望交通部能够参与整个过程与各方协同合作。交通部希望在开发和早期路测阶段包括了解安全风险和实施风险缓解策略。下一阶段是扩大自动驾驶系统的路测,在预期的运行环境中建立对这些技术的信心。在这个阶段,交通部希望开发人员能够观察系统故障,接收安全驾驶员的反馈,并引入故障安全系统。最后阶段仅限于全面的自动驾驶系统部署,包括走向商业化和与公众参与。在这一点上,交通部认为这个阶段包括验证基本的安全假设,收集用户和公众反馈,以及识别改进机会。

AV 3.0解决了交通部下属各部门在自动驾驶系统方面遇到的问题

AV 3.0的核心是,交通部在原有指南的基础上对自动驾驶范围进行了延伸,涵盖乘用车、商用车、公路运输和道路等交通系统。

在AV 3.0中,国家公路交通安全管理局(NHTSA)计划制定新规,包括对特定安全标准的修改,以适应自动驾驶汽车技术,以及解决某些标准设定的例外情况,这些例外只有在有人驾驶的情况下才会出现。

最明显的情况是方向盘和踏板,但联邦机动车辆安全标准(FMVSS)要求,配备自动驾驶系统的车辆可能享有豁免,包括有关前方视野和座位布置的规定。

此外,该机构还将考虑对自动驾驶汽车安全标准的制定方法进行改革。

交通部表示,目前的方法与自动化车辆驾驶技术的创新步伐“不兼容”;未来标准可能会基于性能,并且允许采用包括模拟在内的不同测试程序。

该文件称,“未来的安全标准需要更加灵活、响应能力更强、技术中立并且能以性能为导向,以适应快速技术创新。”

采用基于性能的标准是可能的,因为联邦法律不要求国家公路交通安全管理局(NHTSA)的标准依赖于物理测试,只要求测试必须是客观的、可重复的和可测量的。

国家公路交通安全管理局(NHTSA)将针对改进豁免申请处理流程征询公众意见,即配备自动驾驶系统车辆可以在没有人类驾驶员控制的情况下部署,包括在豁免申请过程中删除“因公众意见造成的不必要的延误”以及澄清和更新支持此类申请所需的信息类型。

AV 3.0发布后,适用于人类特有行为的联邦汽车安全条例(FMCSR)将不再适用于自动驾驶系统操控的车辆;例如,有关药物测试或工作时长的规定。

在车辆检查、维修和保养方面,联邦汽车安全条例(FMCSR)仍然适用于配备自动驾驶系统的车辆。正如相对于国家公路交通安全管理局(NHTSA)做出的变化一样,可能指南中最重要的更新是“未来联邦汽车运输安全管理局(FMCSA)规定对商用机动车辆(CMV)驾驶员的界定将不再只限于人类或者商用车辆运行时必须有人类在车上”。

AV 3.0还宣布,联邦公路管理局(FHWA)将更新2009年版《统一交通设备控制手册》(MUTD),将新兴联网和自动化车辆纳入手册范畴,包括能够阅读和理解交通控制设备的传感器和机器视觉系统。

联邦公路管理局(FHWA)正在研究利用联网车辆技术实现“协同自动化”,以增强自动车辆功能的效率和安全效益。

这项研究包括通过速度协调以解决通行能力瓶颈,协同变道和并道功能以减轻交通中断,协调车辆“交叉口接近和驶离的信号”,帮助自动化车辆进出十字路口。联邦铁路管理局正在研究自动化和联网车辆的使用,以改善公路-铁路交叉路口(平交道口)的通行安全性。海事管理局(MARAD)和联邦汽车运输安全管理局(FMCSA)正在研究将卡车自动结队行驶技术作为卡车在港口集结、进入和停车问题的解决方案,以改善货物运输。负责监管公交系统的联邦公共交通管理局发布了一份针对自动化公交运输研究报告。

这份长达80页的3.0版指南文件全面阐述了美国运输部各部门的职权范围。对于自动驾驶汽车的发展来说,最重要的是轻型、中重型商用车的监管机构将不再从监管角度来假设所有自动驾驶汽车都需要一名人类驾驶者。

此外,交通部还重申认可指南之外制定的有关自动驾驶技术的自愿性标准,并且正在寻找加快规则制定进程的方法,包括给予一定的豁免。本次新版指南中保持不变的是交通部仍然坚持安全第一原则。

与第二版指南不同的是,此次政策修订充分采纳了不同领域众多利益相关方提出的反馈意见,从而制定出更加可靠和周到的指导文件,体现出当前美国政府正在努力减少而不是增加联邦监管。该文件还纳入了关于联邦及各州监督和责任协调以及解决网络安全问题的若干结论。完整文件可以从交通部网站获取。有关自动驾驶水平的定义,AV 3.0继续沿用了SAE对自动驾驶汽车的分级。

虽然没有给出何时公布新规制定建议的具体时间表,但AV 3.0中设定了一个范围,并采用缜密的方法,以确保相关规定不会阻碍自动驾驶汽车的研发。

国家公路交通安全管理局(NHTSA)和联邦汽车运输安全管理局(FMCSA)的变化让我们认识到,在制定标准方面,车辆设计初衷不需要人类驾驶对于标准修改和申请豁免至关重要。

另一个针对新车辆类别相关规定进行现代化更新的示例是国家公路交通安全管理局(NHTSA)承认,现有标准假设车辆可以驾驶到任何地方,但具体自动驾驶系统的运行设计域(ODD)可能限制一定区域,并且是该系统特有的,因此假设和评价可能需要做出相应改变。国家公路交通安全管理局(NHTSA)指出,

而对于美国政府在自动驾驶方面的积极布局,昨天一汽集团在中国主要银行的支持下,拿下了一万元的人民币授信额度,其发力智能驾驶的决心与美国政府也可谓不相上下。

自动驾驶从法律法规到技术细则以致道德伦理都在进入一个崭新的阶段。

(*资料来源:盖世汽车等)

481463739788864478.jpg

x

收藏 0
打赏
相关标签:
电话:010-65030507
邮箱:editor@autor.com.cn
地址:北京市朝阳区朝外大街乙6号朝外SOHO D座5097室
北京智驾时代传媒科技有限公司          Copyright © 2014 - 2022
Autor.com.cn All Rights Reserved. 版权所有 AutoR智驾 智能汽车网
京ICP备14027737号-1      京公网安备 11010502038466号
电信与信息服务业务经营许可证:京B-20211307
关注官方微信