这也可以说是我们从消费产品里继承的一些东西，在Deep Learning的应用里，有很大一类应用是来做视频的智能分析。我们实际上可以用GPU上专有的视频解码硬件，去对视频首先做解码操作，再将解码出来的视频帧，扔给后面的神经网络去做前向的计算。大概的流程就如这页PPT里所展示的样子。

　　那么，有了这样一个SDK，或者说编程框架之后，我们在做视频类的智能分析的时候，就非常方便。比如说上面是我们做的几个应用，第一个是基于NVIDIA DetectNet做的车、人检测；第二是人脸的检测和关键点的定位；第三个是大量视频的scene classification，就是场景的分类。

　　这里面主要有两点值得注意的地方：第一，它的一个目标是做大量视频的同时的实时处理，这些短的截图都是在一块NVIDIA的GPU上做到的。

　　那么application at scale实际上是NVIDIA很大的一个价值所在，用GPU的话，可以用相对少的硬件去完成很多任务的处理。

　　另外一个值得注意的地方，也是我们开始做这个工作的一个初衷，就是有了这样的一个框架之后，你可以想象成，当你训练好一个Model，你把这个Model放进SDK里面，我就可以拿到一个最终的产品了，然后非常方便地做产品的部署。

　　最后，稍微总结一下，我们前面提到了互联网行业和安防行业在这一波浪潮中属于脚步相对较快的；与之相对，传统行业对深度学习技术的接受与应用相对较慢一些，这是从我们的角度看到的一个现象。很多公司其实都询问过我们，他们的应用是否适合深度学习的方法去做。

　　从这个角度来看，深度学习、深度神经网络，以及其他一些比较新的机器学习的方法，其实有非常非常大的想象空间，因为有非常多潜在应用可能都可以采用这些方法去做很大的革新。我相信随着技术的不断进步，我们会在越来越多的其他领域发掘出深度学习的一些妙用。

　　最后，坦白讲，今天我们讲的人工智能，可能跟大众心目中的强人工智能的距离还是比较远的。不过我觉得深度学习是我们朝着真正的所谓智能迈出的非常坚实的一步，把这一步夯实，其实我们已经可以做非常多有价值的工作了。这其实也是NVIDIA，特别是我们团队努力的目标，那就是使得越来越多的应用能更好、更方便地使用深度学习的技术，并且最关键的是要达到工业级应用的水平，换句话说就是有足够高的性价比，能为大家去创造价值。

　　最后在这里我真诚地向大家发出邀请。如果大家对NVIDIA加速计算及Applied DL部门感兴趣，有志加入NIVIDA的话，全职或是实习均可，可以加给我发邮件julienl@nvidia.com，并附上您的简历。谢谢!

　　Q&A实录

　　提问一：创业公司搭建深度学习平台初期，应注意的重点。（来自@Alice-恩知-智慧医疗）

　　赖博士：主要是看需求，如果只是少量的计算需求，或者刚开始使用GPU平台的话，完全可以先买几块GeForce消费级显卡试水。如果需要大量部署的时候，主要有两种选择。如果不想投入太多硬件维护的人力，可以采用像阿里云，Amazon Cloud等等云服务商提供的GPU节点。当然用户也可以自己购买GPU服务器，这里面包括NVIDIA自己的DGX-1（主要适合对于扩展性要求高，模型大，训练量大的场合），或者是一般的NVIDIA合作伙伴提供的GPU服务器。

　　提问二：赖老师，您好！非常高兴能听您的分享，我们公司现在在做机器学习这块，工作站及个人笔记本都用的英伟达GPU，想问您一个问题，就是我们在做机器学习时，如何能最大化GPU使用效率？另外一个问题，不知道赖老师对于深度学习在工业方面的应用能不能给出一些建议？或者从您的了解，目前在工业自动化领域，深度学习是否已经开始或得到了一些比较好的运用？非常非常感谢您！（来自@肖素枝-兰宝传感-机器学习）

　　赖博士：第一个问题，最大化GPU使用效率。在做training的时候，如果用户是用一般的开源框架去做，其实这些东西已经wrap到工具内部了，一般不太涉及到计算性能优化的问题。如果用户是自己开发的训练的软件，这里面问题就很复杂，一两句就描述不清楚了。最核心的其实就是如何能够提高软件的Scalability。如果是做inference，部署的时候的性能优化还是需要做一些工作的。建议有需要的时候可以跟NVIDIA联系，我们的团队可以给一些具体一些的建议。

　　第二个，深度学习在工业自动化领域的应用。我大致了解，在这个领域，很多都是把CV里面的一些检测分类的方法用到具体的问题里面。NVIDIA跟FANUC已经开展了比较深入的合作。

　　提问三：现有的深度学习神经网络模型很容易被未来更好的模型所取代。如何在GPU平台做到很好的可重构性，同时保证高效能？（来自@程亚冰-机器学习）

　　赖博士：GPU平台的一个很大的好处就在于，其有一定的通用性，编程相对容易。所以在新的模型，或者layer出现之后，在GPU上可以很快地获得比较高效的实现。所以新的网络在GPU上往往会获得快速的应用。这也是为什么大家选择GPU做DL的很重要的因素之一。

　　提问四：深度学习的商业化广泛应用时间点？（来自@王学刚-Senmass-智能包装）

　　赖博士：其实我们完全可以说，现在深度学习已经获得了广泛的商业应用。打个比方说，我们常见的语音图像类应用，大部分都已经切换到了深度神经网络的backend。你会发现这几年手机里面的各种语音助手似乎都达到了基本可用的地步。这些都是深度神经网络大规模商用带来的好处。

　　现在的问题是如何进一步扩展DL应用的应用领域。想象空间如前面所讲，是非常非常大的。

　　提问五：可以简单介绍下 Applied DL部门主要的工作内容，和已有的成果吗？（来自@贾庸-中科院·MLDL算法精研社）

　　赖博士：前面其实介绍过一些。我们核心做的还是加速计算。让用户用更少的硬件完成更多的任务。除了做一些具体的代码的移植优化的工作，主要也会做一些library（像DeepStream）之类。另外现阶段基于DeepStream做过一些人脸，人车检测等等应用的参考。主要考虑是了解用户那边的workload，方便用户做二次开发。

　　提问六：赖博士，DL能够应用到EDA工具软件里面吗？例如，PCB自动布线，未来能够利用DL完全替代人工是否可能？（来自@刘颖峰-舒尔电子-高级工程师）

　　赖博士：坦白讲，我对这个真不了解。不过我可以讲的是NVIDIA确实有研发人员在探讨如何将DL用在芯片设计流程中。

　　提问七：非常精彩的报告！想问个问题。与GPU用于一般的HPC相比，GPU用于Deep Learning有啥不同？

转载请注明出处。