外媒:人工智能已能就自身错误发出警告
原标题:外媒:人工智能已能就自身错误发出警告
参考消息网11月27日报道 外媒称,人工智能正在飞速发展,以至于该领域的最新技术成果已经帮助创建出了知道何时不能信任人工智能的神经网络。
据阿根廷布宜诺斯艾利斯经济新闻网11月26日报道,这种深度学习神经网络旨在模仿人类的大脑,并能够同时权衡不同的因素,从而以人类分析无法达到的水平,在数据基础之上确定具体模式。
报道称,这一点之所以非常重要,是因为当今,人工智能被用于直接影响人类生活的各个领域,例如汽车、飞机的自动驾驶或完整的运输系统,此外还用于医学诊断和外科手术。
尽管人工智能一时还不会像电影《我,机器人》中的那样具有毁灭性,也不会像电视剧《黑镜》中那些臭名昭著的狗那样,但能够自主行动的机器已经在我们的日常生活中出现了,而且它们的预判可能会变得更加准确,甚至知道它们自身何时会发生故障。这对于改善其运行状况以及避免发生科幻小说中的核灾难来说,是至关重要的。
报道称,麻省理工学院计算机科学与人工智能实验室(CSAIL)的计算机科学家亚历山大·阿米尼说:“我们不仅需要生成高性能模型的能力,而且还需要了解何时不能信任这些模型的能力。”
阿米尼与另一位计算机科学家达妮埃拉·鲁斯一起加入了一个研究团队,致力于推动这些神经网络的发展,以期在人工智能领域内取得前所未有的进步。
他们的目标是让人工智能对自身的可靠性产生自我意识,他们称之为“深度证据回归”。
报道指出,这种新神经网络代表了迄今为止开发的类似技术的最新进步,因为它的运行速度更快,对计算的需求更低。该神经网络的运行可以在设定信任度的情况下与人类决策同步完成。
“这个想法很重要,并且总体上来说是可用的。它可用于评估基于自主学习模型的产品。通过评估模型的不确定性,我们还可以了解该模型预计会出现多少错误,以及还需要哪些数据来改善该模型,”鲁斯介绍说。
该研究团队通过将其与具有不同准确性水平的自动驾驶汽车进行比较来说明这一点。例如,在决定是否通过路口还是等待的情况下,神经网络对其预判缺乏信心。该网络的能力甚至还包含有关如何改善数据以做出更准确预判的提示。
阿米尼说:“在影响人类安全并造成生命危险的情况下,我们开始看到越来越多的神经网络模型走出研究实验室,进入现实世界。”(编译/田策)
责任编辑:朱学森 SN240
印度新增确诊病例逾4.8万例 累计确诊逾813万例
海外网10月31日电据印度卫生部31日公布的最新数据,印度新冠肺炎确诊病例升至8137119例。在过去24小时内,印度新增确诊病例48268例;新增死亡病例551例,累计死亡121641例。(海外网李芳)责任编辑:张玉SN2340000世卫组织总干事:疫情复发多与聚集性活动有关
{image=1}当地时间8月27日,世卫组织举行新冠肺炎例行发布会,世卫组织总干事谭德塞表示,随着社会逐步开放,许多地区开始出现疫情复发,多数为聚集性病例,与体育场、夜总会、礼拜场所等人群聚集场所有关,可能导致疫情在更大范围内扩散。0000美国再次呼吁联合国安理会延长对伊朗武器禁运
俄罗斯卫星通讯社8月13日消息,美国常驻联合国代表凯莉?克拉夫特再次呼吁安理会支持华盛顿延长对伊朗武器禁运的决议草案。根据《联合全面行动计划》框架下的协议,向伊朗供应军事技术装备的许可程序具有临时性,有效期至10月18日。但美国表示,对伊朗实施武器禁运应继续实行。上周,国务卿蓬佩奥称,安理会本周将审议美国延长对伊朗武器禁运的决议。0000美国新冠肺炎超498万例
据美国约翰斯·霍普金斯大学新冠疫情统计数据,截至美东时间8月8日17:33,美国新冠肺炎累计感染病例4983026例,累计死亡病例162181例。过去24小时,美国新增确诊病例64099例,新增死亡病例1444例。(央视记者许弢许骁){image=1}责任编辑:祝加贝0000