在自动驾驶的“十字路口”,应该刹停,还是谨慎前行?
这不是我们第一次在安全与技术进步之间摇摆不定。
这不仅仅是Uber的危机,更是整个行业的一次“信任危机”。
从奔驰飙车事件,到今天的Uber事故,连续两次扑朔迷离的故事看到人心慌慌。事故调查虽然还没有最终定论,但喧闹媒体却无意中给普通大众制造出了一种对技术的“恐慌”。
作为“首例自动驾驶汽车撞死行人事故”,Uber再一次站在了舆论的风口,负面新闻的如潮水般涌来。甚至,更有为了引诱眼球的媒体,起上了“自动驾驶杀人”这样的标题,给一项伟大的技术刻意蒙上道德审判的阴影。
类似的事故在另一个“十字路口”已经发生过。2016年5月7日,Joshua驾驶一辆特斯拉Model S在美国佛罗里达州的一个交叉路口与一辆拖挂车发生了剧烈碰撞,导致驾驶员不幸丧生。由于碰撞发生时这辆特斯拉轿车处于Autopilot模式下,驾驶员也没有做出任何规避动作。
最终剧情却发生了反转。美国国家公路交通安全管理局(NHTSA)在经过历时七个月的漫长调查之后,在去年1月,NHTSA公布了对特斯拉自动辅助驾驶系统(Autopilot)的调查结果:未检测到特斯拉自动紧急制动系统与自动辅助驾驶系统中存在任何设计与表现的缺陷。NHTSA还表示:“没有必要对该问题进行进一步审查。”
虽然得到了一块“免死令牌”,但问题在那时候已经显现。面对即将到来的「自动驾驶时代」,如何在事故发生后界定人或汽车的责任?如何评判自动驾驶汽车的安全性?成为了非常棘手的问题。
究竟是谁犯了错?
在这起事故中,自动驾驶车辆上能够拯救受害者的感知系统应该不少于四个。Uber的这辆自动驾驶汽车其实配备了多个不同的感知系统,包括顶部的激光雷达、前端雷达、短焦和长焦光学相机等等。即使在非常昏暗甚至无光的夜间,激光雷达发射的红外激光脉冲也能主动的感知到物体的距离。
当天并没有大雾影响,由视频也能看出周围少有遮挡物,所以如果从自动驾驶系统内部评估,“感知系统”嫌疑很小。
最大的嫌疑在于“预测系统”。根据警方发布会的初步信息,由车辆停车位置和撞击痕迹推断,事故很可能是由行人没有注意到后方来车,突然左转横穿马路造成的。
车上的激光雷达等感知系统可能感知到了“行人”,但并没有识别出“推着车/骑着车的行人正在左转”,而“预测”行人处于“直行”的状态下,所以并没有做任何躲避,从而发生事故。
当然,还有另一种可能是传感器正确识别了行人,算法做出了反应,但是由于车速过快,车没有能够及时停下。
这让人想起了Uber之前的一次无人驾驶事故。去年三月Uber自动驾驶汽车还与一辆人类驾驶的汽车相撞,导致车辆侧翻在地。但最终据当地警察局发言人Josie Montenegro描述,在自动驾驶模式下的Uber车辆并没有出现故障和技术失误,对方司机全责。
两次事故可能拥有一些共同之处。无人驾驶车辆的行为是合法的,但是又是不合“常理”的、不符合人力驾驶的通常习惯的。
如果是人驾驶这辆车,就会避免惨剧发生么?
以“事后诸葛亮”的态度假设,通常不会在人行道有人行走的情况下,以40英里每小时的速度快速通过临近道路。考虑到安全因素,一部分驾驶员可能会减速,或者会考虑往左非法占道而进行一些避让。
即便是这样,你可能还会想到最后一道防线——“安全驾驶员”。但安全员的设置,并不能防止这种事故发生。事实上,无人驾驶的安全员作出反应的时间,要比驾驶员自己开车时的反应时间更长的。
亚利桑那州坦佩警察局局长西尔维亚·莫伊尔(Sylvia Moir)对《旧金山纪事报》表示,“安全员称受害人突然就出现在他们前方。他的第一反应是听到了碰撞的声音。”
而在初步调查过后,剧情也有了一些反转。警察局局长向媒体表示,“事实非常清楚的是,根据受害人横穿马路的方式,无论是有人(驾驶),还是自动驾驶,要避免这起交通事故是极其困难的。”另一方面,Uber自动驾驶汽车配备的摄像头拍摄的视频证据,可能指向着这次交通事故过错在受害者本人,而非Uber。
去“敬畏”,而不是“恐慌”
有一个常识,可能与很多人感知相悖——飞机是目前所有出行工具中最安全的。
如果从我们每天接收到的新闻事件来说,飞机并不安全;但从统计数据的角度来看,飞机的死亡率是最低的。如果用死亡率/运送单位距离人次的方法来比较,根据美国交通部的官方数据:“常规旅途民航飞机的死亡率是0.003人/亿英里,是所有交通模式中最低的。商用大巴是0.05人/亿英里,铁路是0.06人/亿英里,汽车(包括出租车)是0.61人/亿英里。”(数据来源:National Transportation Statistics)
世界上第一款喷气式客机,是英国德哈维兰公司研制的「彗星」,但其命运并不顺利。从1952年10月到1954年4月的短短18个月时间里,在已经交付航空公司的17架「彗星」中,就有6架相继发生事故,99名旅客和机组人员遇难。
“彗星”频繁陨落,在当时震惊了世界。时任英国首相丘吉尔下令,要不惜一切代价搞清事故原因。经过了近万小时的事故调查后,最终发现是,因为方形窗户导致的金属疲劳。美国波音公司吸取了彗星号的教训后,采用了新型材料,并将舷窗形状从方形改成了圆形,终于在1954年推出了波音707。
如今,商用航空发展史已经走过了第一个百年,从世界首条定期固定翼民用航班,到如今波音“梦想客机”在全球巡航。虽然也经历了很多不幸的事故,但现在却发展成为了目前最安全的交通方式
“纯软件和算法的人,是很难真正理解造车的人对安全的恐惧的;但是反过来看,民航也是在很多事故后才逐步成长起来的,饱含敬畏,克服恐惧,挣扎前行。”小鹏汽车董事长何小鹏评论说。
只是如今,在这个关乎每一个个体生命安全的技术领域里,需要更多的理性,才能够修复这个本不应被打破的“信任”。
这一事故可能会让外界对于整个自动驾驶行业的信心倒退数年。在行业内部,这次事故引发的主要争论集中在了对低成本传感器方案的质疑。
激光雷达公司禾赛科技CEO李一帆说:“一切试图走捷径的低成本传感器方案、人肉小白鼠众包都是无稽之谈,是犯罪!”其实我们不愿意接受的不是交通事故本身,而是由新技术带来的新增的,本来可以避免的事故。
“以目前的计算机视觉技术,任何狂吹自己深度学习多么牛逼,只用摄像头就可以低成本做自动驾驶的都是耍流氓。讨好车厂前,要先摸摸自己的良心。”景驰CEO韩旭说。
前美国交通部长安东尼·福克斯(Anthony Foxx)在推特中称:“该起事故是对整个无人驾驶行业和政府的一个警示,应该更加注重技术的安全性。”
地平线机器人创始人余凯表示:“自动驾驶既不会像很多人想象的那样像场狂欢,技术成熟一蹴而就;也不会因为出现几次事故就停止前进的步伐。”
毕竟,在人类进步的历史当中,这不是我们第一次在安全与技术进步之间摇摆不定。