加载中…
个人资料
  • 博客等级:
  • 博客积分:
  • 博客访问:
  • 关注人气:
  • 获赠金笔:0支
  • 赠出金笔:0支
  • 荣誉徽章:
正文 字体大小:

人工智能只能跑在云端?手机上也可以跑得很欢脱!

(2017-08-15 17:31:10)
标签:

杂谈

不知你是否发现了,最近有个趋势,比较火的照片处理应用都支持将照片风格化,那些移动端的短视频或直播平台都开始支持实时的滤镜。这些功能在前两年还都需要云端支持,因为它们背后都有一套机器学习模型,不是用于识别图像特征,就是用来识别脸部特征。你的照片和视频都要联网上传,可以说,用户体验基本取决于你的手机信号是否满格。

人工智能只能跑在云端?手机上也可以跑得很欢脱!

​但在今年,我们看到很多类似的功能的数据处理工作开始向移动设备上迁移。手机上也能跑机器学习模型。

懂技术的人,或许会怀疑在移动设备上运行机器学习任务的必要性。其实,这种方式好处多多。首先,它可以有效保护用户隐私,因为处理工作在用户手中完成,数据不会离开移动设备;其次,开发者不会再因为用户手机信号不好而收到1星差评。再其次,你大可以放飞大脑,设想如果机器学习任务(比如图像识别、自然语义理解等)都可以在移动设备上运行,那么无人机、机器人将能更快地完成更多不可能的任务。

不过,在移动端运行机器学习任务,开发者最关注的就是计算性能与功耗。这也是人工智能暂时还未在移动设备上普及的原因之一。

Qualcomm近期推出Qualcomm® 骁龙™ 神经处理引擎(Neural Processing Engine, NPE)软件开发包(SDK)。它能帮助基于TensorFlow、Caffe和Caffe2设计训练模型的开发者,在移动智能设备上大幅优化机器学习模型的性能与功耗。

人工智能只能跑在云端?手机上也可以跑得很欢脱!

​通常来讲,用到机器学习算法的应用,比如风格化和滤镜应用(比如图片处理、AR)、自然语言理解等,大量的运算工作还是要交给云端处理。这时候,如果网络连接不畅通,会大大影响用户体验。即便有些前瞻的团队,把机器学习模型放到移动端来做,碰到普通的移动设备,也只会利用到CPU的运算性能而已。但是,在骁龙设备上情况则不同。

人工智能只能跑在云端?手机上也可以跑得很欢脱!

​有了骁龙NPE SDK加持后,你可以设定让AI模型可以运行在骁龙平台的CPU、GPU、DSP任一芯片上。不过前提是,你的模型是基于Caffe、Caffe2或TensorFlow框架的,并且要转换为.dlc文件。同时,骁龙NPE SDK还提供了文件转换工具,在你将模型转换为.dlc文件之后,工具会提供关于不支持或无法加速的层的信息,你可以根据它们来调整模型设计,以便最大化地利用骁龙平台的计算性能。

除此之外,SDK还提供了benchmark工具、示例代码,并提供了用于控制runtime加载、执行和调度的多个API。



文末小福利说来就来!

骁龙NPE SDK现已免费开放给开发者,欢迎下载

http://bss.csdn.net/m/zone/qualcomm2016/resource_detail?id=1592


关注微博或扫描下方二维码关注微信公众号(ID:Qualcomm_China),了解更多 Qualcomm 资讯。

http://www.qualcomm.cn/sites/regional/files/styles/optimize/public/blog/managed-images/qrcode180_6.jpg?itok=g_PsxIn6

0

阅读 收藏 喜欢 打印举报/Report
  

新浪BLOG意见反馈留言板 欢迎批评指正

新浪简介 | About Sina | 广告服务 | 联系我们 | 招聘信息 | 网站律师 | SINA English | 产品答疑

新浪公司 版权所有