内讧不断、决策失误,Uber员工爆料全球首例无人驾驶汽车致死内幕

猎云网

百家号11-2108:00

【猎云网(微信号:)】11月21日报道 (编译:柠萌)

编者注:在Uber的一辆自动驾驶车辆撞死一位亚利桑那州的行人8个月之后,该公司希望重新回到公共道路上进行自动驾驶车辆测试,并承诺在安全性方面做出重要改进。本文是针对七名优步自动驾驶汽车部门的员工的独家采访,探讨了3月份致死事件的深层原因。

星期天晚上9点58分,在亚利桑那州坦佩市的米尔路上,49岁的Elaine Herzberg正推着她的粉红色自行车过马路。就在几秒钟后,Uber一辆配备自动驾驶技术的沃尔沃SUV汽车撞倒了她。车祸发生时,该车正以60码的时速行驶。该女子送医后不治身亡。

事故发生时,车内只有一名安全驾驶员。该驾驶员名为Rafaela Vasquez,44岁。她的工作是观察汽车驱动器,如果出现问题就对车辆进行控制。监控视频显示,她的头一直低着,没有看向路面,因为她正通过手机上的Hulu应用程序播放“The Voice”。当汽车撞上Herzberg时,她才抬起头控制住了方向盘。

以上是根据美国国家安全运输委员会(NSTB)的初步报告、警方报告和警方发布的事件录像了解到的关于3月18日Uber自动驾驶汽车撞死行人事件的细节。

这一事件使Uber先进技术集团内部的员工大为震惊。先进技术集团(ATG)是该公司旗下的自动驾驶部门,有1100人名员工。据一些员工透露,很多人在聊天室,在大厅里谈论这件事,表达他们的恐惧之感。

Uber曾宣称自动驾驶汽车为比传统汽车更安全,观察和反应的速度都堪比计算机。 然而,他们的自动驾驶汽车却造成了全球首例致死事件。

据透露,事件发生时Herzberg没有使用指定的人行横道。而且,她是一个无家可归的女人,血液检测结果显示冰毒、大麻阳性。于是,许多员工抓住这些细节来对这场悲剧进行解释。有消息称,Uber已与受害者家属达成协议,结束了一场潜在的法律纠纷。

当了解到事件发生时,Vasquez正在观看Hulu,而且在到Uber上班之前,她曾因犯有武装抢劫和其他罪名被定罪时,他们对Vasquez进行了诽谤。

“他们把一切原因都归咎于她。”一名员工说道。

但有内部人士表示,Vasquez和Herzberg并不是导致这场死亡事件的唯一因素。 受到指责应该还有一个第三方,也就是汽车本身,以及制造这辆汽车的人做出的所有存在问题的决定。

根据NTSB的初步报告,Uber的激光雷达和雷达在撞击前整整6秒已经发现了Herzberg。在撞击前1.3秒,系统确定需要采取紧急制动。

但是,它却没有这样做,是因为它做不到。

消息人士透露,即使检测到人类或动物,Uber自动驾驶汽车的创造者已经禁止汽车在紧急操作中踩刹车。NSTB的报告称,Uber故意禁用自动制动。

该报告发现,该车的创造者还禁用了沃尔沃自己的紧急制动出厂设置。该消息已经得到内部人士证实。还有消息称,Uber甚至对汽车转向的能力进行了改造。

关于Elaine Herzberg死亡事件的报道很多,但是大部分集中在报道安全驾驶员的过失。直到现在,关于工程师和高级领导人禁用汽车制动功能的相关报道仍然寥寥无几。

内部人士表示,原因之一是Uber组织内部混乱。还有一个原因可能是为了在某种程度上取悦Uber最大的领导。

媒体采访了七名Uber自动驾驶汽车部门的员工,包括现任和前任员工,他们对这起事件有一定程度的了解。内部邮件、会议记录、其他与无人驾驶汽车程序和这起事件相关的文件也一同公开。

这些内部人士表示,尽管有很多关于汽车安全的警告,但是就在事故发生前几个月,Uber新任首席执行官Dara Khosrowshahi对一次美妙的“行驶体验”印象深刻。于是,高级领导团队对于自动驾驶汽车的发展尤为关心。

根据对员工的采访和文件内容,我们得到以下信息:

· 领导层担心Khosrowshahi正在考虑取消该项目,使他们不得不失去这份非常高薪的工作,因此他们希望向他展示取得的进展。

· 据称,工程师在安全方面做出了危险的取舍,因为领导层要求行驶体验更平稳。

· 各种激励和优先事项都迫使团队快速行动,取得进展,取悦新CEO。

· 一系列警告信号被忽略或没有受到认真对待。

· Uber先进技术集团功能严重失调,内讧猖獗,沟通不畅。

3月18日的致死事件发生后,Uber宣布暂停在亚利桑那州、匹兹堡等地的自动驾驶汽车测试。据调查文件显示,虽然NSTB的最终报告尚未公布,该公司已经计划继续在公路上进行自动驾驶汽车测试。像谷歌的Waymo和GM都是Uber的竞争对手,他们从未停止过路试,因此Uber正试图赶上。

在停车场的话,小孩可能会丧命

对于一些Uber的内部人士来说,Herzberg的死是自驾车的悲剧,但是这结果并不令人惊讶。因为这辆车本就不应该在晚上在开阔的道路上行驶,也许它根本就没有这个能力。

据知情人士透露,尽管其他人表示Uber的先进技术集团预算已接近每年10亿美元,但目前每年的花费为6亿美元。虽然Uber表示对团队正在做的工作充满信心,但不难看出,它仍落后于自驾车市场领导者。

所有受访员工都表示,事故发生时,工程师们知道汽车的自动驾驶软件还不成熟,并且在很多种情况下都难以识别或预测各种物体(包括行人)的路径。

例如,该车的“近距离感应”装备很差,因此并不总能成功地检测到距离它几米之内的物体。

一位软件开发人员说:“如果在停车场的话,小孩很可能会丧命。这就是我们的情况。这样的事故没有发生,但存在发生的可能性。”

每周,软件团队负责人都会听取数百个问题的,这些问题从轻微到严重,而且不是所有问题都能轻松解决。

比如说,树枝问题。一个前工程师表示,几个星期以来,在常规的“分类”会议期间,软件副总裁Jon Thomason一直对各种问题的紧急性进行了优先排序,最终发现“树枝问题”不断上升。树枝会在道路上产生阴影,而自驾车有时会误认为这是物理障碍。

一位工程师解释说:“Uber的软件会将它们归类为实际移动的物体,汽车会做一些愚蠢的事情,比如停止或呼叫远程协助。或者软件可能崩溃并退出自动驾驶模式。这是我们正试图解决的一个常见问题。”

另一位工程师回忆说,Thomason在某一次会议上曾经发怒,要求解决这个问题。 他说:“这是不可接受的!我们不应该被卡在‘树枝问题’上,所以一定要解决。”

但Uber发言人否认车会因为树枝的阴影而紧急制动,他表示车只会因为路边的真实树枝而停止运行。

与此同时,另一名员工也说,成堆的叶子可能会对汽车造成干扰。第三名员工也表示Uber采取了很多努力来帮助汽车识别树叶。

受访员工还表示,自动驾驶汽车在某些情况下无法预测行人的路径。如果行驶的车道有障碍物时,该汽车的软件不会每次都知道该怎么应对。

除此之外,Uber的一些工程师表示,他们相信这些汽车没有在更安全的环境中进行全面彻底的测试。他们需要更好的,使用频率更高的模拟软件。

该公司已经在2月份聘请了一位声誉颇高的模拟工程师尝试解决这一问题。近日,Uber已公开宣布要再次进行模拟测试。

但在Herzberg的意外之前,Uber的发言人曾这样描述:“我们只是没有进行投资。我们的离线测试,现在称为模拟,几乎不存在,完全是垃圾。

除了模拟之外,另一种测试自动驾驶汽车的方法就是在赛道上。

但我们采访过的员工都这样描述Uber的赛道测试工作:每个项目团队都按照自己的方式进行,没有人对整个测试进行监督。

这种整体监督的缺乏是Uber目前正在解决的另一个问题。

然而,即使是在悲剧发生几个月后的现在,这些员工仍然认为严格的整体安全测试还是很薄弱。他们说,安全团队主要致力于分类研究,而不是确保汽车在每个环境中都能可靠地运行。而Uber表示,他们的安全团队不仅关注分类测试,也致力于保证汽车在所有环境中的安全运行。

新任CEO的乘坐体验

在工作的过程中,员工们敏锐地意识到部门领导层正计划招待一位非常重要的乘客:Uber新任首席执行官Dara Khosrowshahi。

Khosrowshahi在2017年夏天接管了Uber首席执行官一职。此前,Uber经历了动荡不安的一年,该公司遭遇了一系列涉及性骚扰指控和商业行为报告的丑闻。自动驾驶汽车部门未能幸免,其主管兼明星工程师Anthony Levandowski于2017年4月因知识产权盗窃而下台。

在Khosrowshahi上任前五个月,自动驾驶汽车部门的现任主管Eric Meyhofer暂时代行领导人之职。

尽管Uber对自动驾驶汽车进行了大量投资,但其计划仍远远落后于竞争对手。有新闻报道推测Khosrowshahi会叫停该项目。Meyhofer和高级团队都意识到了这一点,他们希望给新任首席执行官留下深刻的印象。

他们计划在4月份左右为Khosrowshahi进行一次模拟驾驶,同时也为大型的年终公开演示做准备。自动驾驶汽车部门全力以赴。

这个计划事关重大。如果ATG消失,领导团队就会失去高薪工作。多名员工表示,高级工程师的薪水超过40万美元,董事的薪酬、奖金和股票期权在100万美元之间。

除此之外,领导层的声誉也受到威胁。与Meyhofer关系密切的人士解释说,他们不想被人们认为是将Uber广为人知的自动驾驶汽车项目推向死亡的人。

糟糕的体验

作为全球最大的打车公司,Uber了解为客户提供良好体验的必要性。如果乘客要接受自动驾驶汽车,那么绝对不能在演示中让乘客有任何不满意的地方。

因此,11月份,在Khosrowshahi成为他们新领导的一个月后,产品团队的高级成员Eric Hanson发送了一份“产品需求文档”,为ATG制定了一个新的目标。

该文件要求工程师考虑“驾驶体验指标”,并规定在每年年终的大型演示中,只能出现一次“不良体验”。

鉴于当时汽车的自主软件还不成熟,“这是一个非常高的要求,”一位软件开发人员说。

一些专注于解决与安全相关问题的工程师对此感到震惊。消息人士解释说,工程师可以“调整”一辆自动驾驶汽车,使其驾驶更加轻松、平稳,但是使用不成熟的软件,这意味着不允许汽车对其所看到的一切(无论是否真实)做出反应。这可能有风险。

“如果你把一个人放在车内,并且死亡的几率达到了12%,你就不应该讨论任何有关用户体验的事情,”一位沮丧的工程师假设道。“优先考虑的不应该是用户体验,而是安全性。”

在产品团队发送“驾驶体验指标”和限制“不良体验”的文件两天后,另一封电子邮件出现了。这封邮件来自几个ATG工程师,内容显示他们正在禁用汽车自行做出紧急决定的能力,比如紧急制动或急转弯,理由正是出于安全考虑。

邮件中还写道,“如果自动驾驶汽车的‘车辆操作员’或安全驾驶员没有及时接管而其他驾驶员又没有注意的话,这些紧急行动会产生实际风险,因此最好在在线操作中停止紧急行动的功能。”

换句话说,这样的紧急行动可能会让路上的其他司机惊慌失措。如果出现真正的威胁,安全驾驶员会接管方向盘。因此他们决定限制汽车的行动并完全依赖安全驾驶员的警觉性。

言下之意很清楚:汽车的软件不足以做出紧急决定。而且,一位员工指出,通过限制汽车使其反应更温和,也可以产生让驾驶更平稳。

几个星期后,他们恢复了汽车急转弯的能力,但没有恢复紧急制动的能力。

最后的警告

在悲剧发生的前几天,这最终警告的迹象也开始显露出来。

有一位安全驾驶员向Meyhofer发送了一封电子邮件,列出了一系列他对安全驾驶员计划管理不善和工作条件的不满。

“安全驾驶员觉得他们不能发挥很好的作用。他们要求绕圈开车,但他们的反馈没有改变任何东西,”Uber自驾车部门的一位前工程师说,他对安全驾驶员计划相当熟悉。

司机抱怨他们需要长时间工作,而且针对他们应该测试和观察的内容缺乏足够的沟通。但抱怨声最大的还是几个月前Uber决定开始在一辆自驾车里安排一位安全驾驶员,取代原先的两位。这个决定立即让ATG的可用驾驶员大大增多,因此无需雇用双倍的驾驶员也能记录更多的里程。

原先第二位安全驾驶员专门负责将汽车问题记录到iPad应用程序中,并处理汽车在路上识别物体的请求。

而现在,一位安全驾驶员要完成所有的工作。

这样的安排不仅消除了拥有两个驾驶员冗余性,也使安全性大大降低。而且,还需要主动驾驶员进行记录和标记,而不是将视线一直停留在公路上。公司内部的一些人认为这样做不安全。

一位软件工程师说,这就像驾驶员在驾驶时分心一样,“就像驾驶员花10-15%的时间看手机”。Uber现在表示,自动驾驶汽车部门计划再次在公路上进行测试,而且回归到之前的两个安全驾驶员系统。

有毒的文化

一些员工认为,ATG的领导者正在追求更好的“驾驶体验”,以使Khosrowshahi相信这辆车的未来比计划的演示过程更加遥远。

但是,一位与Meyhofer密切合作的工程师表示,真正的问题是,在他的领导下,“沟通不畅,团队重复努力”。他补充说道:“一个团队不知道别的团队在做什么。” 这位工程师表示,一个团队不会知道对方已经禁用了某项功能,或者某项功能没有通过赛道测试,或者汽车表现不佳。“他们只知道他们自己的部分。这就像多米诺骨牌效应。所有这些累加起来就会导致系统不安全”。

所有受访的员工都将ATG描述为Meyhofer领导下的“有毒文化”:无法完成的工作量,陷害同事以及管理不善。

文件显示,Uber的领导层已经意识到这种问题。Thomason在9月的一次会议上向其他领导人表示,“我们不止一次听到这样的消息:ATG不是一个有趣的工作场所”,并承认这样的反馈对他来说是“莫名其妙”。

虽然有些人不喜欢Meyhofer并且认为如果受到挑战,他可能会怀恨在心,但是也有人形容他是一个善良的好人。

“他对硬件很了解。但是,自动驾驶汽车的大脑是软件”,一位与他密切合作的工程师和前雇员透露。这意味着Meyhofer缺乏“对软件灵越的理解和专业知识”。“想象一下,如果领导者不能权衡两种选择并决定最佳行动方案,会出现什么样的后果?”这位工程师描述道。

受访的员工都认为,问题的一部分在于Uber自动驾驶汽车部门的员工来自两个截然不同的地方的团队,他们的工程文化大相径庭。

在匹兹堡有一个团队,员工来自卡内基梅隆国家机器人工程中心(NREC)。另一个团队在旧金山。旧金山的员工抱怨说,NREC的员工是一群没有实际产品建设经验的研究者,他们是因为Meyhofer的关系才保住了高薪工作。而NREC团队则认为旧金山的工程师愚蠢而且忘恩负义。

除了内讧不断,Uber还有一个奖金体系,为快速完成目标的员工提供奖励,对他们测试的仔细与否不做考量。一位前工程师说:“在ATG,只要达到目标,我就能得到这笔巨大的奖金。我觉得,导致一切不良行为的原因就是这个奖金体系。”

在其安全报告中,Uber表示ATG在事故发生之前测量其计划进展的一些方法产生了“不正当的激励措施”。

具体来说,与自动驾驶汽车行业的同行一样,ATG认为,如果汽车在没有人类帮助的情况下行驶的距离越远,它就越智能。但整个行业现在意识到对于衡量汽车的驾驶情况,这种方法过于简单了。如果管理层过于关注该指标,员工可能会感到压力,即使他们应该控制汽车他们也不会去做。

自此,Uber决定要找到其他方法来衡量汽车驾驶情况,并表示其基于完成目标的奖金体系仅限于少数人,而且最近已被淘汰。

在公司内部,一些人仍然对自动驾驶部门表示失望。

“在ATG内部,我们拒绝承担责任。他们将此次事件归咎于那位无家可归的女士,有犯罪记录的汽车安全驾驶员。”一位软件开发人员说。“但我们的车的的确确撞到了一个。ATG内部没有人这样说,‘我们做错了,我们应该改变我们的行为。’”

这些受访员工都注意到,在Meyhofer的领导下,领导团队基本没变。其中一些人,如Hanson,甚至已经晋升。他们声称,该部门的基础文化并没有真正改变。

Uber发言人表示,该公司已经审查了其安全程序,做了很多改变,并承诺付出更多努力。

“现在,整个团队都专注于使自驾车安全地回到公路上,”发言人表示。“我们对他们为实现这一目标所做的工作充满信心。我们最近通过发布自愿安全自我评估向前迈出了重要一步。我们的团队仍然致力于实施关键的安全改进,我们打算继续进行道路自驾车驾驶测试。当然,在这些改进措施得到实施并且获得宾夕法尼亚州交通部的授权后,我们才会进行测试。”

因为3月份发生的事故,Uber首席执行官的大型驾驶体验搁浅,至少在任何公共道路上都没有看到。但未来这可能会改变。

员工们表示,Meyhofer和他最亲密的副手仍然负责ATG并希望尽快在年底之前让他们的自动驾驶汽车再次上路,甚至最早可能在本月晚些时候。

本文由百家号作者上传并发布,百家号仅提供信息发布平台。文章仅代表作者个人观点,不代表百度立场。未经作者许可,不得转载。

返回顶部