游客

“翻译情未了”? 回顾阿里翻译平台的进击之路!

游客 2017-07-14 11:26:09    201248 次浏览

在百度翻译,谷歌翻译几乎要霸占整个机器翻译市场时,阿里翻译宣布已成功研发阿里云 PAI 工具,基于阿里云 PAI 可以将神经网络翻译训练效率提升 5 倍,这将大大加速阿里翻译平台的建设。希望阿里翻译以后也能走进我们的生活中。

众所周知,马云爸爸在创立阿里之前是做翻译服务及开翻译公司的。随着近几年阿里的业务不断扩大,全球化战略进程加速,语言问题也成了最基础的需求之一,尤其是跨境电商交易对多语言翻译需求尤甚。此前阿里在语言服务上做过不少努力,包括收购国内最大的人工翻译平台,但这远远不能满足阿里平台上亿级别客户的需求。正当阿里为此感到苦闷时,谷歌的神经网络翻译技术出现了,可以说是为阿里的翻译平台插上了一对翅膀。

“翻译情未了”? 回顾阿里翻译平台的进击之路!

早在 2015 年 6 月份,阿里就已收购国内最大的众包翻译平台——365 翻译。当时把阿里翻译平台定位为阿里巴巴的语言服务平台,将瞄准人机结合模式,在语言服务领域进行更多创新。365 翻译的加入确实为阿里的跨境电商领域分担了一些翻译业务上的压力。并且在机器翻译领域,和电商相关的几个主要语种中,其翻译的准确率基本和谷歌翻译持平。然而,阿里语言服务平台的野心并不止于此。他们想借助强大的人工翻译团队和电商大数据研发下一代基于神经网络技术的翻译平台。

“翻译情未了”? 回顾阿里翻译平台的进击之路!

神经网络翻译技术是一种用于自动翻译的端到端的学习方法,该方法能够克服传统的基于短语的翻译系统的缺点,可以将整个输入句子视作翻译的基本单元。从 2016 年以来的学术界顶级会议上,几乎全是围绕 NMT 相关的创新工作,之后谷歌、微软等巨头公司相继发布 NMT 系统。

阿里翻译团队也紧紧抓住这一机会于 2016 年 10 月起正式开始自主研发 NMT 模型,2016 年 11 月首次将 NMT 系统的输出结果应用在中英消息通讯场景下的外部评测中并取得了不错的成绩,翻译质量有了大幅度提升。

“翻译情未了”? 回顾阿里翻译平台的进击之路!

但是,由于 NMT(神经网络机器翻译)模型的结构复杂,且深度神经网络模型本身的训练过程一般又会涉及很大量的计算,因此 NMT 系统往往需要较长的训练周期,例如,使用 3000 万的训练数据在单块 GPU 卡上一般需要训练 20 天以上,才能得到一个初步可用的模型。

基于上述问题,2017 年 2 月初开始,阿里翻译团队和阿里云 Large Scale Learning(大规模学习)的穆琢团队合作,共同开发支持分布式训练的 NMT 系统,并于 2017 年 3 月底完成了第一个版本的分布式 NMT 系统。

在 2017 年 4 月份的英俄电商翻译质量优化项目中,分布式 NMT 系统大大提高了训练速度,使模型训练时间从 20 天缩短到了 4 天,为项目整体迭代和推进节省了很多时间成本。

“翻译情未了”? 回顾阿里翻译平台的进击之路!

图:使用不同卡数时,在中英 100 万训练语料上获得的收敛加速比

PAI 是阿里推出全球化战略“NASA”计划后发布的首个重磅工具,可以完全兼容全球主流的深度学习开源框架。同时,底层提供强大的云端异构计算资源,包含 CPU、GPU、FPGA。在 GPU 方面,可灵活实现多卡调度。

除了基于 MA 的分布式实现,增加 GPU 卡的数量,有不同的收敛加速比以外,阿里翻译项目组还尝试了其他多种分布式实现方法,也都获得了不同程度的加速效果,包括 Downpour SGD、AllReduce SGD 以及使用了 BMUF (Blockwise Model-Update Filtering, 一种针对 Model Average 方法的改进方案)策略的 Model Average 方法。下图中显示,在硬件条件相同,BMUF 的收敛效果要比 MA (黄色柱状)分布式要好。

“翻译情未了”? 回顾阿里翻译平台的进击之路!

阿里方面还表示:上一阶段工作主要集中在模型训练阶段的加速策略上,接下来的工作主要分为两方面:一方面是继续挖掘分布式训练的加速潜力,通过系统与算法相结合的优化策略,最大化利用硬件资源,提升收敛加速比,并将分布式优化策略和算法模型本身解耦,实现复杂深度学习模型分布式加速功能的组件化和通用化。

另一方面,需要在现有的服务化方案的基础上,进一步通过模型精度压缩、网络结构简化等方式,在保证模型效果的同时,提高解码速度,降低线上延时,进而增强线上服务能力,节约服务化所需的硬件成本。

阿里云 PAI 工具使阿里翻译平台的神经网络翻译训练效率提升 5 倍,确实非常厉害。这将大大加速阿里翻译平台建设之路。正当雷锋网编辑想对阿里的翻译质量来一个评测对比,点击阿里翻译平台官网:www.alifanyi.com 却发现功能还未对外开放。

“翻译情未了”? 回顾阿里翻译平台的进击之路!

后来雷锋网了解到:阿里翻译团队还在破解线上服务处理延时的难题,平台目前还在内测阶段。不过雷锋网编辑还是发现了一个能使用阿里翻译界面的网站。现在就来对百度翻译,谷歌翻译,阿里翻译做一个简单的汉译英测试。

百度翻译:

“翻译情未了”? 回顾阿里翻译平台的进击之路!

谷歌翻译:

“翻译情未了”? 回顾阿里翻译平台的进击之路!

阿里翻译:

“翻译情未了”? 回顾阿里翻译平台的进击之路!

为了能使阿里翻译体现出自己拥有电商大数据的优势,特别选了一句跨境电商领域的句子:自有产品,经营主体自行生产或自有品牌的产品,以及外部采购以自己名义进行销售的产品。从翻译结果对比来看,阿里翻译似乎比百度和谷歌的翻译好一点。接下里进行第二项测试,英译汉测试:

百度翻译

“翻译情未了”? 回顾阿里翻译平台的进击之路!

谷歌翻译

“翻译情未了”? 回顾阿里翻译平台的进击之路!

阿里翻译

“翻译情未了”? 回顾阿里翻译平台的进击之路!

这次阿里翻译似乎表现的不太好,表现最好的是百度翻译。不过从一些关键词的翻译还是能体现出阿里翻译的特色,比如:jurisdiction,翻译为“法域”;buyer 和 seller 翻译为买家和卖家。可以猜测阿里翻译在跨境电商等类似的特定场景下会表现的更好。总的来说,阿里翻译的汉译英表现还不错,但在英译汉的情况下表现的没有谷歌翻译和百度翻译好。

阿里翻译现在还没上线,但凭借自己拥有海量的电商跨境交易数据和强大的 365 人工翻译团队,再加上阿里云 PAI 工具对神经网路翻译训练效率的提升,相信不久后阿里翻译会有一个质的飞跃,在机器翻译领域占取一定的市场份额也不是没有可能的。希望阿里翻译平台开放后能给用户一个惊喜。

据雷锋网了解:在阿里巴巴内部,PAI 已经被广泛使用。淘宝搜索使用 PAI 的参数服务器,可以把百亿个特征的模型,分散到数十个乃至于上百个参数服务器上,打破规模瓶颈。最终实现搜索结果基于商品和用户的特征进行排序。现在,阿里翻译团队还在破解线上服务处理延时的难题,为神经网络机器翻译模型的大规模应用扫除最后障碍。

内容加载中