专栏名称: 机器学习研究会
机器学习研究会是北京大学大数据与机器学习创新中心旗下的学生组织,旨在构建一个机器学习从事者交流的平台。除了及时分享领域资讯外,协会还会举办各种业界巨头/学术神牛讲座、学术大牛沙龙分享会、real data 创新竞赛等活动。
目录
相关文章推荐
爱可可-爱生活  ·  本文通过引入同时考量计算与内存访问成本的Ki ... ·  9 小时前  
黄建同学  ·  Firecrawl推出官方Firecrawl ... ·  昨天  
爱可可-爱生活  ·  【[228星]fastapi-guard:为 ... ·  昨天  
51好读  ›  专栏  ›  机器学习研究会

【推荐】上帝的巴别塔在崩塌?阿里翻译一年2500亿次调用,节省25亿美元

机器学习研究会  · 公众号  · AI  · 2017-06-05 19:47

正文

请到「今天看啥」查看全文


神经网络机器翻译(Neural Machine Translation, NMT)模型自2013年在学术界首次被提出后,就不断快速发展,目前在某些语种和场景下,译文质量甚至可以达到人工翻译的水平。


阿里翻译团队自2016年10月起正式开始自主研发NMT模型,2016年11月首次将NMT系统的输出结果应用在中英消息通讯场景下的外部评测中并取得了不错的成绩,翻译质量有了大幅度提升。



但是,由于NMT模型的结构复杂,且深度神经网络模型本身的训练过程一般又会涉及很大量的计算,因此NMT系统往往需要较长的训练周期,例如,使用3000万的训练数据在单块GPU卡上一般需要训练20天以上,才能得到一个初步可用的模型。


基于上述问题,2017年2月初开始,阿里翻译团队和阿里云Large Scale Learning的穆琢团队合作,共同开发支持分布式训练的NMT系统,并于2017年3月底完成了第一个版本的分布式NMT系统。



项目成果







请到「今天看啥」查看全文