科学家谈无人驾驶:如果无人驾驶汽车出错造成事故 怎么办?
原标题:往届回声|如果无人驾驶汽车出错造成事故,怎么办
编者按:第三届世界顶尖科学家论坛将于10月30日-11月1日在上海举行。包括61位诺贝尔奖得主在内,近140位诺贝尔奖、图灵奖、菲尔兹奖、沃尔夫奖、拉斯克奖等全球顶尖科学奖项得主出席。论坛期间将有130余场科学家独立演讲、70余场主题峰会,大部分活动将通过网络向公众直播。
在过往的两届世界顶尖科学家论坛上,人工智能是科学家绕不开话题。在人工智能技术落地的各种应用中,自动驾驶,或称无人驾驶是最具代表性的场景之一。
我们何时能实现L5级别的自动驾驶,当无人驾驶汽车出错,造成了事故,该怎么办?澎湃新闻特此整理世界顶尖科学家论坛往届参与者关于无人驾驶的讨论,希望能为读者理清无人驾驶技术的发展脉络、挑战和困难。
除了人脸识别外,当下,人工智能技术发展最有代表性的另一项落地技术应该要算无人驾驶了。在第二届世界顶尖科学家论坛上,科学家们就以无人驾驶为例,阐述了技术发展下的伦理道德约束,以及技术与人之间的关系。
首先,与飞机和火车在出厂时都经过严密的安全测试不同,无人驾驶汽车出厂的时并不安全,它就有一个“计算黑盒”,来进行端对端的计算控制。在无人机驾驶起初出厂前,众多科技公司都认为自己的路测公里已经达标。
这一点,在科学家们看来,并不如此。“他们也是认为公里数统计可信度就够了,公司会说我这个无人驾驶汽车测过几百万公里的运作,都是安全的,因此我就认为它是安全的。而这种说法只是统计学上面的安全可靠性。做特斯拉的那一位就说我们这个车已经很安全了,如果出问题我可以付钱等等,但这些都是非常盲目乐观的情绪。” 2007年图灵奖得主约瑟夫·斯发基斯说。
针对自动驾驶安全公里数,斯发基斯认为不能盲目信任数据,更重要的是应该是在不同的危险场景下去实验,需要有各种各样的标准,尝试各种各样的选择,覆盖所有的场景,才能更好地保证自动驾驶汽车的安全。
2018年,美国优步(UBER)公司的一辆自动驾驶测试车18日晚间在亚利桑那州撞倒一名中年女性,这名女性在送医之后不治,全球首例自动驾驶致死案就此发生。从这场事故开始,公众对于无人驾驶就有些敌对的情绪。
“这可能也是要引起重视,尤其是在技术的接纳程度上。关键问题就是我们什么时候能够接受自动系统,就算不能够完全理解它采取什么样的行动或者什么样的决策,但我们该怎么样接受这种技术,这是我们必须要讨论的问题。”约瑟夫·斯发基斯。
在约瑟夫·斯发基斯看来,人的行为、情绪也是影响技术的因素之一。在谈论人与技术的关系时,人的行为发生什么样的改变,公众对于这个会有什么反应,也必须是要讨论和考虑的。
未来,我们或许会进入这样的场景:到处都是无人驾驶的车,或者无人驾驶车和人开的车混在一起。当发生交通事故了,如果这个事故是由人造成的,公众可能还能接受。但是如果这个事故是机器造成的,那人们的反应会非常剧烈。为什么,这也是技术公司在开发自动驾驶汽车时,应该要考虑到的。
如果真是无人驾驶汽车出错造成了事故,那么该采取什么措施。在2013年诺贝尔化学奖获得者、美国南加州大学教授亚利耶·瓦谢尔(Arieh Warshel)教授看来,惩罚措施是绕不过去的话题,比如,如果特斯拉的车造成人类死亡,这个公司可能需要配上数十亿。
“如果你想要算系统责任的话,比如说责任乘以十,你惩罚的后果可能要乘以一千。现在的情况是,对于政府来说,如果开发的成本降一点,许多制车厂其实已经这样做了,下降一点就可以把省下来的钱付一笔给保险公司,从而用保险的方式来解决安全隐患。但这样的后果是很严重的。”约瑟夫·斯发基斯说。
责任编辑:薛永玮
苹果天猫官方旗舰店恢复iPhone12和iPhone 12 pro产品上架状态
相关新闻:天猫回应苹果天猫旗舰店下架iPhone12系列:请期待11.11的惊喜苹果天猫官方旗舰店恢复了iPhone12和iPhone12pro产品的上架状态。责任编辑:薛永玮0000杭州荷博物联科技回应智能坐垫是"监控利器":非监控 已处分HR
近日,浙江杭州荷博物联科技有限公司员工发帖称,公司为员工们安装了智能坐垫,用以检测心跳、呼吸、坐姿等。在被HR询问为什么某一时间段不在工位后,员工质疑公司此举是装了一个“监视器”。对此,该公司董事长1月5日回应21世纪经济报道记者称,该产品实为内部测试,目的并非监控,员工在被测试前已签署过英文版的知情同意书,HR口头解释了测试情况。0003拼多多美团滴滴重兵投入,社区团购上演巨头 “生死战”
拼多多美团滴滴重兵投入,社区团购上演巨头“生死战”社区团购行业在过去三年吸引大量创业者和资本进入,经历了野蛮生长、行业洗牌。如今巨头入局,纷纷下沉到二三线城市、县域市场,搅动整个行业。谁能最终胜出?战争过后,行业会不会一地鸡毛?文|《中国企业家》王玄璇程璐编辑|周春林肖峰没有想到,江西南昌,这个常被网友调侃“没有存在感”的省会城市,正成为巨头混战的主战场之一。0003英媒盘点:北京冬奥会上的情侣运动员
英媒盘点:北京冬奥会上的情侣运动员参考消息网2月14日报道英国广播公司(BBC)网站2月14日发表文章,盘点了几对情侣运动员,他们在北京2022年冬奥会共度情人节。全文摘编如下:科尼柳斯·克斯滕和埃利娅·斯梅丁在北京创造了英国历史,成为30年来首次代表英国队参加冬奥会的速度滑冰选手。0000中国国际服贸会体育专题展:百余家体育企业参展 力争签约额超20亿
{video=1}中国国际服贸会体育专题展:百余家体育企业参展力争签约额超20亿今年9月初,中国国际服务贸易交易会将在北京举行,今年的服贸会将打造展览展示、论坛会议、洽谈签约的全流程、全场景的线上平台。记者从体育服务专题展区的主办方北京市体育局了解到,今年体育服务板块力争签约金额突破20亿元。0000