3 月 29 日，阿里云在云栖大会·深圳峰会上重磅亮相了阿里“NASA”首个武器：机器学习平台 PAI2.0 ，接下来，本文会扼要介绍一下在 PAI 里实现的大规模深度学习的优化策略。

1、前言

自 2012 年 Deep Learning 的代表模型 AlexNet[1]在 ImageNet 大赛中力压亚军，以超过 10 个百分点的绝对优势夺得头筹之后，依托于建模技术的进步[2][3]、硬件计算能力的提升[4]、优化技术的进步[5][6][7][8][9][10]以及海量数据的累积[11]，Deep Learning 在语音[3][12][13]、图像[1][2]以及文本[14][15][16]等多个领域不断推进，相较于传统作法取得了显著的效果提升。

工业界和学术界也先后推出了用于 Deep Learning 建模用途的开源工具和框架，包括 Caffe、Theano、Torch、MXNet、TensorFlow、Chainer、CNTK 等等。其中 MXNet、TensorFlow 以及 CNTK 均对于训练过程提供了多机分布式支持，在相当大程度上解放了 DL 建模同学的生产力。但是，DL 领域的建模技术突飞猛进，模型复杂度也不断增加。

从模型的深度来看，以图像识别领域为例，12 年的经典模型 AlexNet 由 5 个卷积层，3 个全连接层构成（图1），在当时看来已经算是比较深的复杂模型，而到了 15 年， 微软亚洲研究院则推出了由 151 个卷积层构成的极深网络 ResNet（图2）；从模型的尺寸来看，在机器翻译领域，即便是仅仅由单层双向 encoder，单层 decoder 构成的 NMT 模型（图3），在阿里巴巴的一个内部训练场景下，模型尺寸也达到了 3GB 左右的规模。

从模型的计算量来看，上面提到的机器翻译模型在单块 M40 NVIDIA GPU[17]上，完成一次完整训练，也需要耗时近三周。Deep Learning 通过设计复杂模型，依托于海量数据的表征能力，从而获取相较于经典 shallow 模型更优的模型表现的建模策略对于底层训练工具提出了更高的要求。

现有的开源工具，往往会在性能上、显存支持上、生态系统的完善性上存在不同层面的不足，在使用效率上对于普通的算法建模用户并不够友好。阿里云推出的 PAI (Platform of Artificial Intelligence)[18]产品则致力于通过系统与算法协同优化的方式，来有效解决 Deep Learning 训练工具的使用效率问题，目前 PAI 集成了 TensorFlow、Caffe、MXNet 这三款流行的 Deep Learning 框架，并针对这几款框架做了定制化的性能优化支持，以求更好的解决用户建模的效率问题。

这些优化目前都已经应用在阿里巴巴内部的诸多业务场景里，包括黄图识别、OCR 识别、机器翻译、智能问答等，这些业务场景下的某些建模场景会涉及到几十亿条规模的训练样本，数 GB 的模型尺寸，均可以在我们的优化策略下很好地得到支持和满足。经过内部大规模数据及模型场景的检测之后，我们也期望将这些能力输出，更好地赋能给阿里外部的 AI 从业人员。

[attach]729247[/attach]

图 1. AlexNet 模型示例

[attach]729248[/attach]

图 2. 36 层的 ResNet 模型示例

[attach]729249[/attach]

图 3. NMT 模型架构示例

接下来，本文会向雷锋网的网友们扼要介绍一下在 PAI 里实现的大规模深度学习的优化策略。

2、大规模深度学习优化策略在 PAI 中实践应用

大规模深度学习作为一个交叉领域，涉及到分布式计算、操作系统、计算机体系结构、数值优化、机器学习建模、编译器技术等多个领域。按照优化的侧重点，可以将优化策略划分为如下几种：

I. 计算优化

II. 显存优化

III. 通信优化

IV. 性能预估模型

V 软硬件协同优化

PAI 平台目前主要集中在显存优化、通信优化、性能预估模型、软硬件协同优化这四个优化方向。

1). 显存优化

内存优化主要关心的是 GPU 显存优化的议题，在 Deep Learning 训练场景，其计算任务的特点（大量的满足 SIMD 特性的矩阵浮点运算执行序列，控制逻辑通常比较简单）决定了通常我们会选择 GPU 来作为计算设备，而 GPU 作为典型的高通量异构计算设备，其硬件设计约束决定了其显存资源往往是比较稀缺的，目前在 PAI 平台上提供的中档 M40 显卡的显存只有 12GB，而复杂度较高的模型则很容易达到 M40 显存的临界值，比如 151 层的 ResNet、阿里巴巴内部用于中文 OCR 识别的一款序列模型以及机器翻译模型。

从建模同学的角度来看，显存并不应该是他们关心的话题，PAI 在显存优化上做了一系列工作，期望能够解放建模同学的负担，让建模同学在模型尺寸上获得更广阔的建模探索空间。在内存优化方面， 通过引入 task-specific 的显存分配器以及自动化模型分片框架支持，在很大程度上缓解了建模任务在显存消耗方面的约束。其中自动化模型分片框架会根据具体的模型网络特点，预估出其显存消耗量，然后对模型进行自动化切片，实现模型并行的支持，在完成自动化模型分片的同时，我们的框架还会考虑到模型分片带来的通信开销，通过启发式的方法在大模型的承载能力和计算效率之间获得较优的 trade-off。

2). 通信优化

大规模深度学习，或者说大规模机器学习领域里一个永恒的话题就是如何通过多机分布式对训练任务进行加速。而机器学习训练任务的多遍迭代式通信的特点，使得经典的 map-reduce 式的并行数据处理方式并不适合这个场景。对于以单步小批量样本作为训练单位步的深度学习训练任务，这个问题就更突出了。

依据 Amdahl’s law[19]，一个计算任务性能改善的程度取决于可以被改进的部分在整个任务执行时间中所占比例的大小。而深度学习训练任务的多机分布式往往会引入额外的通信开销，使得系统内可被提速的比例缩小，相应地束缚了分布式所能带来的性能加速的收益 。

在 PAI 里，我们通过 pipeline communication、late-multiply、hybrid-parallelism 以及 heuristic-based model average 等多种优化策略对分布式训练过程中的通信开销进行了不同程度的优化，并在公开及 in-house 模型上取得了比较显著的收敛加速比提升。

在 Pipeline communication（图4）里，通过将待通信数据（模型及梯度）切分成一个个小的数据块并在多个计算结点之间充分流动起来，可以突破单机网卡的通信带宽极限，将一定尺度内将通信开销控制在常量时间复杂度。

[attach]729250[/attach]

图 4. Pipeline communication

在 Late-multiply 里，针对全连接层计算量小，模型尺寸大的特点，我们对于多机之间的梯度汇总逻辑进行了优化，将“多个 worker 计算本地梯度，在所有结点之间完成信息交互”（图5）的分布式逻辑调整为“多个 worker 将全连接层的上下两层 layer 的后向传播梯度及激活值在所有计算结点之间完成信息交互”（图6），当全连接层所包含的隐层神经元很多时，会带来比较显著的性能提升。

[attach]729251[/attach]

图 5. Without late-multiply

[attach]729252[/attach]

图 6. With late-multiply

在 Hybrid-parallelism 里，针对不同模型网络的特点，我们引入了数据并行与模型并行的混合策略，针对计算占比高的部分应用数据并行，针对模型通信量大的部分应用模型并行，在多机计算加速与减少通信开销之间获得了较好的平衡点。通过图7，可以看到将这个优化策略应用在 TensorFlow 里 AlexNet 模型的具体体现。 [attach]729253[/attach]

 图 7. AlexNet with hybrid-parallelism

3). 性能预估模型

对于建模人员来说，他们关心的往往是以最具性价比的方式完成他们的建模训练任务，而不是用多少张卡，以什么样的分布式执行策略来完成他们的训练任务。而目前 Deep Learning 训练工具以及训练任务的复杂性，使得建模人员往往不得不透过 leaky abstraction 的管道，去关心为了完成他们的一个建模实验，应该使用多少张 GPU 卡，多少个 CPU 核、什么样的通信介质以及选择哪种分布式执行策略，才能有效地完成自己的训练任务。

基于性能预估模型，我们期望能够将建模人员从具体的训练任务执行细节中解放出来。具体来说，给定建模用户的一个模型结构，以及所期望花费的费用和时间，PAI 平台会采用模型 启发式的策略预估出需要多少硬件资源，使用什么样的分布式执行策略可以尽可能逼近用户的期望。

4). 软硬件协同优化

上面提到的 3 个优化策略主要集中在任务的离线训练环节，而 Deep Learning 在具体业务场景的成功应用，除了离线训练以外，也离不开在线布署环节。作为典型的复杂模型，无论是功耗、计算性能还是模型动态更新的开销，Deep Learning 模型为在线部署提出了更高的要求和挑战。在 PAI 平台里，关于在线部署，我们除了软件层面的优化之后，也探索了软硬件协同优化的技术路线。目前在 PAI 平台里，我们正在基于 FPGA 实现在线 inference 的软硬件协同优化。在 PAI 里实现软硬件协同优化的策略与业界其他同行的作法会有所不同，我们将这个问题抽象成一个 domain-specific 的定制硬件编译优化的问题，通过这种抽象，我们可以采取更为通用的方式来解决一大批问题，从而更为有效地满足模型多样性、场景多样性的需求。

3、小结

大规模深度学习优化是一个方兴未艾的技术方向 ，无论是工业界还是学术界在对这个领域都有着极高的关注度，围绕这个主题也涌现出若干个成功的 start-up，通过在雷锋网分享这篇文章，我们期望能够让 PAI 的终端用户了解到为了提升用户体验，改善用户建模效率，我们在背后所做出的优化努力。

今年 5 月份，NVIDIA GTC 2017 北美主场会在硅谷举行，PAI 团队也会在硅谷现场给出一个以大规模深度学习优化为主题的分享。今年 7 月份，在 Strats Hadoop World 2017 大会上，PAI 团队也会做一个相关主题的分享。也希望能够以这篇文章为引子，以这篇个技术会议为渠道，跟国内外更多从事相关领域工作的业界同行有更多交流和碰撞，一起来推进大规模深度学习这个技术方向的进展和建设。

参考文献

[1]. Alex Krizhevsky， Ilya Sutskever, and Geoffrey E Hinton. Imagenet classification with deep convolutional neural networks. In Advances in neural information processing systems ， pages 1097–1105, 2012.

[2]. Kaiming He, Xiangyu Zhang, Shaoqing Ren, and Jian Sun. Deep residual learning for image recognition. In Proceedings of the IEEE Conference on Computer Vision and Pattern Recognition ，pages 770–778, 2016.

[3]. Geoffrey Hinton, Li Deng, Dong Yu, George E Dahl, Abdel-rahman Mohamed, Navdeep Jaitly， Andrew Senior, Vincent Vanhoucke, Patrick Nguyen, Tara N Sainath, et al. Deep neural networks for acoustic modeling in speech recognition: The shared views of four research groups. IEEE Signal Processing Magazine ， 29(6):82–97, 2012.

[4]. Sharan Chetlur, Cliff Woolley， Philippe Vandermersch, Jonathan Cohen, John Tran, Bryan Catanzaro, and Evan Shelhamer. cudnn: Efficient primitives for deep learning. arXiv preprint arXiv:1410.0759 ， 2014.

[5]. Nitish Srivastava, Geoffrey E Hinton, Alex Krizhevsky， Ilya Sutskever, and Ruslan Salakhutdinov. Dropout: a simple way to prevent neural networks from overfitting. Journal of Machine Learning Research ， 15(1):1929–1958, 2014.

[6]. George E Dahl, Tara N Sainath, and Geoffrey E Hinton. Improving deep neural networks for lvcsr using rectified linear units and dropout. In Acoustics, Speech and Signal Processing (ICASSP)， 2013 IEEE International Conference on ， pages 8609–8613. IEEE, 2013.

[7]. Jiquan Ngiam, Adam Coates, Ahbik Lahiri, Bobby Prochnow， Quoc V Le, and Andrew Y Ng. On optimization methods for deep learning. In Proceedings of the 28th International Conference on Machine Learning (ICML-11) ， pages 265–272, 2011.

[8]. Sergey Ioffe and Christian Szegedy. Batch normalization: Accelerating deep network training by reducing internal covariate shift. arXiv preprint arXiv:1502.03167 ， 2015.

[9]. Diederik Kingma and Jimmy Ba. Adam: A method for stochastic optimization. arXiv preprint arXiv:1412.6980 ， 2014.

[10]. Jimmy Lei Ba, Jamie Ryan Kiros, and Geoffrey E Hinton. Layer normalization. arXiv preprint arXiv:1607.06450 ， 2016.

[11]. Chun-Wei Tsai, Chin-Feng Lai, Ming-Chao Chiang, Laurence T Yang, et al. Data mining for internet of things: A survey. IEEE Communications Surveys and Tutorials ， 16(1):77–97, 2014.

[12]. A Hannun, C Case, J Casper, B Catanzaro, G Diamos, E Elsen, R Prenger, S Satheesh, S Sengupta, A Coates, et al. Deepspeech: scaling up end-to-end speech recognition. 2014. arXiv preprint arXiv:1412.5567 .

[13]. Dario Amodei, Rishita Anubhai, Eric Battenberg, Carl Case, Jared Casper, Bryan Catanzaro, Jingdong Chen, Mike Chrzanowski, Adam Coates, Greg Diamos, et al. Deep speech 2: Endto- end speech recognition in english and mandarin. arXiv preprint arXiv:1512.02595 ， 2015. Ronan Collobert and Jason Weston. A unified architecture for natural language processing:

[14]. Deep neural networks with multitask learning. In Proceedings of the 25th international conference

on Machine learning ， pages 160–167. ACM, 2008.

[15]. Yonghui Wu, Mike Schuster, Zhifeng Chen, Quoc V Le, Mohammad Norouzi, Wolfgang Macherey， Maxim Krikun, Yuan Cao, Qin Gao, Klaus Macherey， et al. Google’s neural machine translation system: Bridging the gap between human and machine translation. arXiv preprint arXiv:1609.08144 ， 2016.

[16]. Ilya Sutskever, Oriol Vinyals, and Quoc V Le. Sequence to sequence learning with neural networks. In Advances in neural information processing systems ， pages 3104–3112, 2014.

[17]. http://www.nvidia.com/object/tesla-m40.html

[18]. https://yq.aliyun.com/articles/57677

[19]. https://en.wikipedia.org/wiki/Amdahl's_law