中国云计算的契机!讯飞、Face++专访
时间: 旧金山时间3月18日9点 ;地点:圣何塞GTC会场
高性能计算、云计算概念在近几年非常火热,传统的云计算主要用于科学计算,商业计算,但在这次GTC大会上我们发现了不同以往的趋势。在专业云计算领域,不少公司都有迫切的需要,今天笔者代表泡泡网采访了科大讯飞和Face++的代表,高性能计算的技术支持和硬件提供商NVIDIA的高层也同时接受了采访,在一个多小时的时间里笔者了解了他们目前所处的环境和需要,其实现在云计算已经在每个人的身边,未来更是将渗透到每天的生活中!下面是本次采访的内容摘要。
主持人:今天我们有幸邀请到国内两家受益于Depp learning,在语音识别和面部识别方面取得非凡成就的公司代表,分别是科大讯飞和Face++的代表,请他们分享高性能计算带来的改变。
背景介绍:
科大讯飞(IFLYTEK CO.,LTD.)
科大讯飞股份有限公司,前身安徽中科大讯飞信息科技有限公司,成立于1999年12月30日,2014年4月18日变更为科大讯飞股份有限公司,专业从事智能语音及语言技术研究、软件及芯片产品开发、语音信息服务及电子政务系统集成。
Face++
Face++是新一代云端视觉服务平台,提供一整套世界领先的人脸检测,人脸识别,面部分析的视觉技术服务。
Face++旨在提供简单易用,功能强大,平台通用的视觉服务,让广大的Web及移动开发者可以轻松使用最前沿的计算机视觉技术,从而搭建个性化的视觉应用。Face++同时提供云端REST API以及本地API(涵盖Android, iOS, Linux, Windows, Mac OS),并且提供定制化及企业级视觉服务。通过Face++,您可以轻松搭建您自己的云端身份认证,用户兴趣挖掘,移动体感交互,社交娱乐分享等多类型应用。
记者:NVIDIA这次的GTC大会上,deep learning无疑是最大的热门,请问目前NVIDIA在推动deep learning的发展上做出了那些推动,目前国内外的发展现状如何?
NVIDIA:很多公司最近几个月在交流,有些公司已经有一些算法,差不多200家公司在中国,他们的需求和我们能提供的技术是一致的。当然,中国非常大,政府对信息公司促进的意图也非常重要,我们会和我们的合作伙伴一起去推动这些技术的发展。我们会提供一些现有的工具,和架构专家去提供支持来推动deep learning的发展。大概4月份,我们会做一个试点,在北京、上海、广东等地方。下一步我们还会和合作伙伴交流,包括国内和国外的。第一季度预计会有四五茬交流,视情况我们会在线提供支持或者派遣专家去现场协助。
事实上我们发现国内的很多优秀的公司已经达到了国际一流水平。对于deep learning这样的新技术来说,国内外的公司其实基本处于同一个起跑线。每个礼拜我要做上百个公司的review,目前总部对深度学习的支持非常给力,而我们惊喜的发现国内的deep learning发展速度非常迅速。
记者:请问在座的两位领导(科大和Face++),什么时候开始和NVIDIA合作采用deep learning算法,这项新技术又带来了什么好处?
科大讯飞:相对于公司本职的语音识别技术来说,深度学习(deep learning)还是一个很新的技术,但要说和NVIDIA的合作,从很早开始我们就已经采用GPU来加速语音识别的效率,当时就取得了几十倍的加速,后来达到了上百倍。刚开始我们还曾经使用了普通的消费类显卡,但效果不是很好,因为游戏中一个像素的错误并不会造成影响,对于数据运算来说也许就是致命的,所以后来我们全部采用了专业显卡来做加速。我们感觉NVIDIA的GPU加速非常适合时代的发展,在我们需要它的时候,NVIDIA提供了强有力地帮助,帮助我们的语音识别技术取得了快速发展。
Face++:为什么要和NVIDIA合作?是因为NVIDIA有它独有的优势,NVIDIA的业务很全面,我们一开始可以用游戏卡来测试加速效果,周边的软件环境也很友善,尤其是Tegra可以解放我们的设计,我们在做设计的时候不用绞尽脑汁去节约最后一点点性能。其实对于很多更小的初创公司来说,NVIDIA刚推出的小盒子(小型工作站)也是非常合适,它可以极大的帮助这些小公司研发自己的技术。对于我们来说,云服务我们也是非常期待,现在唯一困扰我们的就是安全性问题。
NVIDIA:其实开发的时候,用消费级的显卡去做也可以,到了真正部署的时候可以采用更加专业的显卡来提供支持,因为架构是统一的。
科大讯飞:我们的训练系统采用GPU加速,最多就是100个节点的规模,因为每个节点的效率都非常高,而目前来说在线服务依然是有上千个节点是CPU提供的,从产业角度来看,如果全部在线系统能用GPU做起来的话,能或者很大的提升。GPU加速在机器学习方面非常有前景,因为机器学习实际上分两个部分,一个是要计算出规则,第二部是要将计算出来的东西拿到服务器上去运行。
NVIDIA:GPU的并行架构设计在处理大量并行计算的时候有先天的优势,而我们一直在提高效能比的道路上努力。
科大:说的非常对,NVIDIA产品的优点在于它的高效率和每瓦特性能,这也是为什么我们亲睐它的原因。
Face++:云训练和云应用,对安全问题要求最高的是公有云训练,无论是如何加密,服务器端都要解密,这就涉及到核心的商业机密。因为如果在服务器端不解密,计算任务量将会指数增加,云训练如果失去效率也就失去了它的价值。所以虽然云计算有很多优势,但在deep learning训练方面很多公司都会不惜成本做自己的计算中心,毕竟对于一个科技企业来说,技术的安全是排在第一位的。当然如果未来有服务商能提供经得起考验的平台,我们也是愿意尝试的。
主持:今天我们讨论了关于高性能专业GPU云计算的一个发展现状和前景,不少国内的优秀公司走在了世界的前列,通过本次访谈我们了解到大家对高性能专业计算服务迫切的需要以及目前deep learning发展的现状和趋势。事实上本次的采访更像是一个开端而不是结束,行业规则和法律条例不断完善以后,未来专业级的高性能云计算和deep learning都会有更加广阔的前景!由于时间的关系,今天的采访就到这里,谢谢在座的各位,下届再会!■