开发者眼中的移动AI芯片到底是什么样子?

姓名:谢也佳 学号:14020150084 电子工程学院 (第10篇)

转载自:钛媒体

【嵌牛导读】:硬件不能解决一切问题,但可以让更多的开发者参与其中。

【嵌牛鼻子】:移动AI芯片

【嵌牛提问】:AI领域内,智能硬件处于何种位置?

【嵌牛正文】:

BAT中的开发者:模型优势比端的部署更重要

此前我们已经讨论过,在各种App中可以看到大量云端AI的痕迹,自拍美颜、语音助手,AI已经存在于移动设备的种种细节里。可实际情况往往是机器学习开发者在一端研究算法、处理数据、训练模型,而移动开发者在另一端负责其他的数据结构和编程等等。两者之间通过一个云端服务器连接,除此之外少有交集。

提到移动AI时,大部分开发者考虑的是将模型移植到应用程序中,是否会加大安装包的大小,是否在每次更新模型时都需要上传更新包通过应用商店审核。

当下很多大企业对AI的追求几乎是不计成本的,加上唾手可得的大量数据,几乎要把开发者们“宠坏”。利用海量数据训练出复杂的模型,时时刻刻都在更新模型试图让其更加完善。

对于这些大企业来说,在得到一个让自己和行业都满意的模型之前,考虑在哪个端部署似乎有点早。采访时一位来自阿里某智能产品的产品运营告诉我们,相比端与端环境间的比较,他们目前更关心的是把算法模型打磨的更好。

这无形中也体现了AI发展的某种现状:从算法为主导到以产品为主导的过渡期,在用户们用脚投票之前,开发者很难自发的从一个开发环境迁移到另一个开发环境中。尤其是一些掌握着优势资源的大企业,或许对于他们来说,不安全感来自于算法间的差异,而不是用户体验上的细微之处。

历经转型的开发者:定制AI的无尽可能

不过一位曾经经历过PC端到移动端转型的开发者提示了我们,移动AI或许不仅仅是“离线AI”这么简单。

在从PC端到移动端迁移的过程中,开发者们发现在不同的设备中,用户的行为是有很大差异的。同样,即使都是移动设备,手机、平板、智能手表甚至智能音箱等等产品上,用户的行为依然会产生很大差异。比如在平板中用户更倾向于打开视频,而手机设备中用户更倾向于打开文字信息等等。可在云端为主的智能推荐算法中,这两种设备的数据常常被混合在一起处理。

当移动设备有了在本地处理的能力,开发者就可以让推荐算法更好的匹配不同设备。以目前A11和麒麟970公布的参数看来,将智能推荐这类本身就依托于网络的算法完全移植到移动端本地意义不大,但把云端推理结果放到移动端本地再次处理,会得到很不一样的用户体验。

这也意味着算法有可能和设备,并且进一步和个人用户更好的贴合起来。通过移动设备丰富的感知能力,地理位置、天气、光线、使用时长、用户行程安排甚至体温心率等等原本无法轻易获取的数据,都可以通过本地计算结合到已有的算法模型之中。在拥有移动AI的未来,外卖App或许在下雨天把你最爱的火锅排到推荐流前列,而在公司时则把速度最快的餐品排到前列。

总之,从开发者的角度看来,移动AI最大的价值是在于把原本的“通用AI”变成“定制AI”。

迁移实操开发者:移动AI需要更统一的编程环境

“定制AI”的概念虽然迷人,但真到了开发的实操阶段,却不像想象中那么容易。

一位就职于直播平台bigo的资深PE工程师告诉我们,目前移动端GPU/AI芯片还是一个较新的概念,api接口较混乱,缺乏编程和计算方式的统一。

就以现在来看,苹果的A11只把GPU能力开放给了CoreMl一个框架,而目前大多数开发者采用的都是Tensorflow、Caffe等主流框架。这无疑给未来的迁移造成了影响:开发者究竟要在原有框架上进行“阉割”,还是在CoreMl上重新编程?

如果厂商提供较高的抽象层,移动AI开发者只能一个个去配适硬件抽象层。要是厂商倾向于提供底层抽象,就可以由更高层次的抽象屏蔽差异,从而提高开发效率。

尤其是对于安卓这类本身生态就比较混乱的系统,开发者很可能受到更多阻碍。

以目前通用的CPU为先例,不同厂商的功耗和发热控制逻辑不同,同样的神经网络,在某一厂商的CPU上可能跑的很顺畅,而在另一家厂商的CPU上可能就会触发过热保护降频,最终导致神经网络的计算性能有剧烈的波动。

所以大部分开发者只敢在产品中嵌入一些计算量比较小的网络,或者是调用频率比较低的功能,无法选择在持续功能里用复发神经网络。

目前大多数直播产品在移动端都有实时美颜功能,虽然只是利用降噪(磨皮)、颜色空间转换(滤镜)等基础功能,但在一些手机上也会出现耗电量明显增高的现象。

厂商之间筑起的护城河难以填平,或许能改变当前这一现状的还要看出货量。现如今华为和苹果两家手机厂商已经开始圈地,未来高通等也会加入战争。苹果虽然底层生态更为统一,可从目前iPhone8和iPhoneX的出货量来看,很难说是否能够占据先机。麒麟970则是拥有更强的智慧算力,未来在拥有足够出货量的前提下,或许可以和苹果一起率先成为开发者们的试验田。

深度学习开发者:芯片仅仅是移动AI的开始

对于用户而言,移动AI芯片的出现意味着可以在终端上获得更好的产品体验,可对于开发者来说,移动AI却不能靠芯片一蹴而就。

我们采访了有着中国版Prisma之称的深黑科技,深黑科技的CEO Jason告诉我们,目前大多数移动AI芯片在机器学习做了较为普适性的优化,而对一些特定的计算方式则没有进行太多优化。比如深度学习中需要的卷积计算,当前就会更适合部署在云端。

并且在计划从云端到终端的迁移时,开发者还会受制于原本的框架。像Tensorflow就很容易支持iOS和安卓上的部署,让迁移变得更加容易。可像Caffe、Torch这样基于小团队的框架,在产品化上相对乏力,目前还无法帮助开发者将代码迁移到两个移动端。这也给了Tensorflow更多的优势,尤其是在消费级应用之上。

移动AI芯片不能解决所有问题,但很多团队正在试图从软件方面加速移动AI的部署。在今年刚刚拿到融资的美国西雅图的 AI 创业公司 xnor.ai,他们利用二值化神经网络减小神经网络模型的储存大小,从而加快运算速度、降低计算成本,最终实现在不依赖网络的前提下,在嵌入式设备中部署深度学习模型。

硬件的出现,只是移动AI生态的一块基石。进入业务层面,还要考虑api配适、软件优化,甚至未来可能出现的5G网络等等。

作者:脑极体

http://www.tmtpost.com/2858269.html

來源:脑极体

著作权归作者所有。商业转载请联系作者获得授权,非商业转载请注明出处。

©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 160,165评论 4 364
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 67,720评论 1 298
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 109,849评论 0 244
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 44,245评论 0 213
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 52,596评论 3 288
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 40,747评论 1 222
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 31,977评论 2 315
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 30,708评论 0 204
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 34,448评论 1 246
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 30,657评论 2 249
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 32,141评论 1 261
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 28,493评论 3 258
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 33,153评论 3 238
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 26,108评论 0 8
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 26,890评论 0 198
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 35,799评论 2 277
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 35,685评论 2 272

推荐阅读更多精彩内容