谷歌揭秘自家翻译系统:如何利用AI技术提高翻译质量
谷歌翻译最早亮相于2006年,在过去的13年间,翻译水平有了重大飞跃。谷歌表示,其翻译突破并不是由单一技术推动的,而是针对低资源语言、高资源语言、总体质量、推理速度等一系列技术组合的突破。在2019年5月到2020年5月之间,这样一来,根据人工评估和BLEU(基于翻译系统翻译和人工参考翻译之间相似性的衡量标准),谷歌翻译在所有语言中平均提高了5分以上,在50种语料资源最少的语言中平均提高了7分以上。
混合模型和数据挖掘器
在这系列技术突破中,谷歌首先提到了混合模型和数据挖掘器。
混合模型指的是由Transformer编码器和递归神经网络(RNN)解码器构成的模型。在机器翻译中,编码器通常将单词和短语编码为内部表征,解码器将其生成为所需要的语言文本。谷歌的研究人员在2017年称首次提出,翻译质量的提高主要依靠编码器。谷歌团队称这可能是因为RNN和Transformer都设计为处理有序数据序列,但Transformers并不需要按顺序处理序列。换句话说,如果所讨论的数据是自然语言,则Transformer无需在处理结尾之前先处理句子的开头。
目前谷歌翻译可支持108种语言,平均每天翻译1500亿个单词。
尽管如此,RNN解码器在推理时间上仍然比Transformer中的解码器要“快得多”。训练出更好的翻译器,成为机器翻译领域里需要解决的问题之一。谷歌翻译团队认识到这一点,于是在将RNN解码器与Transformer编码器耦合之前,对RNN解码器进行了优化,原标题:谷歌揭秘自家翻译系统:如何利用AI技术提高翻译质量
对于机器翻译来说,以创建低延迟、质量及稳定性均比此前所使用的RNN神经机器翻译模型更胜一筹的混合模型。
除了新颖的混合模型体系结构之外,谷歌还升级了爬虫工具,爬虫工具可以从数以百万计的示例翻译中收集编译训练数据。升级后,谷歌嵌入了14 种大语言对,而不是单纯基于字典数据。也就是说它是使用实数向量来表示单词和短语,更多地聚焦于精确性(检索数据中的相关数据部分),而非检索(实际检索的相关数据总量)。产出效果方面,谷歌说这使得该数据挖掘器提取到的句子数量平均增加了29%。
“嘈杂”的数据和迁移学习
谷歌翻译性能提升的另一个技术突破来自更好地处理训练数据中的“噪声”。“噪声”即嘈杂的数据,因含有大量无法正确理解或解释的信息数据,从而会损害语料资源丰富的语言翻译。因此谷歌翻译团队部署了一个系统,该系统使用经过训练的模型为翻译示例分配分数,进而筛选出“纯净”的数据。实际上,这些模型一开始基于所有的数据进行训练,然后逐渐基于更小、更纯净的数据子集进行训练,如何在数据不多的情况下,这种方法在人工智能研究领域被称为课程学习。
对于机器翻译来说,传统上依赖于源语言和目标语言中成对句子的语料统计。对于资源较少的语言,谷歌在谷歌翻译中采用了一个回译机制,来强化并行训练数据,即语言中的每个句子都与其译文相配对。在该机制中,训练数据与合成的并行数据自动对齐,目标文本为自然语言,而源文本则由神经翻译模型生成。结果是,谷歌翻译充分利用更丰富的单语文本数据来训练模型,谷歌称这对提高翻译流畅性特别有帮助。
此外,谷歌翻译团队还建了一个M4模型。
近日,谷歌在自己的博客上介绍了公司最新的翻译创新技术,这些技术提升了谷歌翻译的用户体验。M4模型由团队在2019年提出,该模型对100多种语言的250亿对句子进行训练后,提高了30多种低资源语言的翻译质量。这一模型也证明了在机器翻译过程中可以使用迁移学习技术。这也意味着收集包括法语、德语和西班牙语,这些有数十亿个并行示例的高资源语言,如果一门语言可用的文字资料越多,并进行训练后,可以应用于翻译诸如约鲁巴语,信德语和夏威夷语,这些仅有数万个示例的低资源语言。
机器翻译的未来
谷歌称,自2010年以来,翻译质量每年都在提高,但是机器翻译绝不是翻译问题的“终结者”。 谷歌承认,即使是增强后的模型也容易出错,包括将一种语言的不同方言混合在一起,产生过多的直译,以及在特定主题,非正式或口语上的表现不佳。
谷歌尝试用不同的方法来解决上述的问题。公司曾发布一项计划旨在招募志愿者,通过检查翻译单词和短语是否正确来帮助提高低资源语言的翻译性能。 今年2月份,谷歌翻译与新兴的机器学习技术相结合后就完成了进步,经过人工智能模型训练出来的翻译效果就越好。但并不是所有语言都具备丰富可用训练的文字资料,他们提供了仅有7500万人使用的五种语言翻译,例如Kinyarwanda(卢旺达语),Odia(奥里亚语),Tatar(鞑靼语),Turkmen(土库曼语)和Uyghur(维吾尔语)。
追求真正通用翻译的并不只有谷歌一家。在2018年8月,Facebook发布了一种AI模型,该模型结合了逐词翻译,语言模型和反向翻译,在语言配对方面表现优异。最近,麻省理工学院计算机科学与人工智能实验室的研究人员提出了一种无监督模型,即可以从未经明确标记或分类的测试数据中学习的模型,该模型可以在两种语言的文本之间进行翻译,而无需在两种语言之间直接进行翻译。
责任编辑:李园
IMF总裁警告全球复苏不均衡 恐造成更深远影响
国际货币基金组织(IMF)总裁表示,新兴市场国家难以摆脱大流行病引发的经济危机,其影响可能蔓延,伤害发达国家。发达国家应尽一切努力,确保改善疫苗获取以及更公平的经济复苏。IMF总裁格奥尔基耶娃周二在网上活动中说,更加贫困的国家面临着利率上升、但其经济却未在增长的风险,可能会发现被债务偿还掐住了脖子,尤其是如果债务以美元计价的话。0000日本12月家庭支出同比下降0.6% 三个月来首次下滑
{image=1}日本政府周五发布的数据显示,去年12月家庭支出同比下降0.6%,三个月来首次下降,表明在政府宣布紧急状态以控制新一轮疫情之前,消费者信心已经疲软。日本政府周二宣布延长10个府县的紧急状态,包括东京及周边府县,以及日本西部的大阪和京都。受疫情影响,2020年全年日本家庭支出下降了6.5%。不过,与11月相比,12月家庭支出环比增加了0.9%。责任编辑:于健SF0690000Truist:产品内容将有所改善,维持Netflix“买入”评级
Truist分析师MatthewThornton发表报告表示,在Netflix公布第二季度业绩前,维持其“买入”评级,目标价600美元。Thornton在报告中表示,Netflix将其服务扩展至体育直播和播客等新类型内容,并考虑加大由广告驱动的收入来源。对此,该分析师认为,Netflix的产品内容将有所改善,但是,投资者对该股的预期仍然低迷。责任编辑:刘玄逸0000黄金期货价格周一收高约0.1% 录得三连涨
北京时间17日凌晨,黄金期货价格周一录得连续第三个交易日上涨。一些为限制冠状病毒传播而采取的新的经济限制措施,以及表明纽约地区工厂活动放缓的经济数据,为金价提供了支撑。{image=1}不过,冠状病毒疫苗研发的最新进展令金价涨幅受到限制。ZanerMetals分析师表示,欧洲多国以及美国密歇根和华盛顿等州实施新的防疫限制措施的消息公布后,金价上涨。0000