为什么AI芯片“凉了又热”?
ai的热潮已经过去?许多关注ai的人或许会给出的判断。这种判断也有一些依据,ai发展三大要素之一的ai芯片,在2016年左右出现大量的初创公司,之后火热了两年左右时间后,又逐渐凉了下来。
但2020年下半年开始,ai芯片初创公司的融资消息又多了起来,在本月的waic 2021期间,多家云端ai芯片和边缘ai芯片初创公司都发布了新产品,ai芯片似乎又热了起来。
ai芯片为什么“凉”了几年又“热”了起来?ai普及的关键到底是什么?risc-v芯片会成为aiot市场的主角吗?
体验不好的ai产品伤害了消费者
2017年左右掀起的新一轮ai热潮,有两个关键性事件。一个是2012年alexnet在imagenet大规模视觉识别挑战赛中用卷积神经网络(cnn)赢得了图像识别竞赛,再次掀起了学界研究ai的热潮。到了2017年,alphago战胜人类*棋手柯洁,并横扫整个围棋界。ai的热潮从学界蔓延至产业界,并引发全民关注。
“我觉得ai能再一次热起来是因为神经网络在技术有了突破后,能够解决一些问题,而这恰好能满足消费者对智能美好生活的向往。”嘉楠科技创始人、董事长兼首席执行官张楠赓对雷锋网(公众号:雷锋网)表示。
很快地,ai音箱、ai机器人、ai家电、ai故事机等众多ai产品迅速推向市场,其中出货量最大的ai音箱迅速普及,但很快被消费者抛弃。
“通过缩减材料降低成本,推出体验不好的产品对市场伤害非常大,因为没有好的体验,整个市场的规模很难变大。降低成本应该靠更好的技术。”张楠赓说,“ai产品还是没有达到消费者的预期,消费者需要的是一个完整的产品,这是我认为ai又凉下来的原因。”
英特尔研究院副总裁、英特尔中国研究院院长宋继强也告诉雷锋网:“现在很多ai系统,只有一个原型,但到商业化的时候,原型是不行的。ai创新要真正的规模化发展起来,一定要很认真严肃地做垂直整合。”
也就是说,ai产品的实际体验与消费者期待的产品之间仍有鸿沟。从ai智能硬件公司的角度,在ai芯片和ai算法的支持下,他们推出了比以往更加智能的产品,产品性能有了显著的提升。但从消费者的角度,ai产品依旧不够智能,甚至有些傻,很难持续使用或购买新的ai产品。
“还有一个问题是价格,对于智能硬件和白色家电,消费者的要求是性能是世界级,但价格预期是‘地狱级’,这是矛盾所在。”张楠赓说。“不过,只要有明确的需求和目标,实现世界级的性能,同时兼顾可接受的价格并非不能达成的目标,嘉楠希望在未来1-3年内达成这个目标。”
还要看到,边缘推理是ai应用大规模落地的关键。这是因为,云边协同已经成为主流的计算范式。在云边协同的架构中,边缘ai在数据脱敏、数据感知和实时决策上有效弥补了时延和数据隐私上的短板,也能降低高昂的it基础设施成本。
此时,更高性能的ai芯片非常关键。
需求释放,边缘ai芯片市场规模绝对值快速增加
嘉楠在ai边缘芯片市场占有先发优势,2018年推出了首款ai推理芯片勘智k210,这款ai soc投片的时候还没有mobilenetv2和yolov3算法,所以只有1tops的ai算力。“由于勘智k210研发时间较早,在算力规划上没有考虑到后来才出现的算法模型,导致这款芯片在应用场景的拓展上受到限制。”张楠赓如此评价这款芯片。
在整个业界探索ai芯片和ai应用的背景下,嘉楠的首款ai芯片获得了多个头部教育机器人客户的订单。在2020年全球疫情和缺芯的环境下也实现了可观的营收。
“今年很多应用市场需求快速增加,仅上半年我们就实现了1300多万的ai芯片营收,如果下半年产能问题不能解决,我预计营收和上半年相当。”张楠赓说,“我看到的是今年市场需求特别旺盛,增长比较快。”
当然,ai边缘芯片市场仍旧处于绝对值增长很快,但总体规模依旧不大的状态。在快速增长的市场里,除了ai教育以及增加ai功能网络摄像机(ipc),用边缘ai芯片做人群聚集检测、超声波定位、机器狗、跟拍云台等创新的产品越来越多。
“勘智主打的还是ai性能,基于勘智k210的能力,有些创新应用是我们没有想到的。更加智能的产品也需要更高性能的ai芯片,其实像家庭场景里的扫地机器人,面对的环境也非常复杂,需要比较高的算力,还要控制成本。”张楠赓表示。
为此,嘉楠推出了勘智k510边缘推理芯片,cpu依旧采用risc-v(双核64位),全新的kpu将ai性能提升至3tops,支持tensorflow、pytorch和onnx 模型导入,配合kpu为ai加速还增加了dsp。
另外,勘智k510支持三路传感器输入1080p视频,拥有众多高速和低速接口,其中高速接口ddr phy和mipi rx/tx dphy均是嘉楠完全自主知识产权的ip。
从推出的时间看,勘智k510比嘉楠的产品路线图晚了半年多时间。据雷锋网了解,其中的原因包括这是嘉楠第一个比较大规模的ai芯片,几乎重新设计了ai加速单元kpu,高速接口也是完全自研,再加上产能紧缺等多重因素,导致勘智k510推出的时间比预期晚一些。
“产品更早推出肯定会更好一些,但稍微晚一点也有好处。我们推出第一款ai芯片的时候,绝大部分中小客户只能用原厂的芯片做一些嵌入式的开发。今年有能力开发ai芯片的客户多了很多,许多客户还有自己的ai算法。市场在成熟,应用场景也在不断增加,这对我们产品的推广是好事。”张楠赓如此解释。
与传统的功能芯片不同,ai芯片的开发者并不知道自己明确的需求,这对要预测未来三到五年市场需求的ai芯片公司来说,定义产品难度更大。但比较明确的是,随着ai应用复杂程度的增加,对ai的算力需求也随之增加,提升ai性能成为关键。
“勘智k510的kpu相比上一代基本是重新设计。原来的kpu比较简单,如果用第一代架构进行等比放大提升性能会有很多问题。新设计的第二代架构更加通用,可伸缩性更好,很容易实现零点几tops到几tops的算力,同时兼容性也更好。”张楠赓表示。
提升ai性能的同时,勘智k510的视觉性能也有了显著提高,集成了最新一代图像处理单元和3d isp模块,支持深度摄像头tof传感器,可以在无需软件参与的情况下自动解析和提取深度图像,加速3d图像处理。
张楠赓指出,勘智k510是一款中高端算力芯片,视觉硬件配置也是这款芯片的重头戏,同时支持最多3个摄像头的输入,其中一路支持3d功能,也是迎合市场需求,能够满足比如活体检测等需求。勘智k510也能够应用于高清航拍器、视频会议、机器人、steam教育、工业相机和辅助驾驶等场景。
雷锋网注意到,勘智k510在降低功耗方面从多角度入手,比如通过noc总线架构解决庞大时钟树带来的芯片大功耗和大面积问题;kpu根据不同层级的带宽、计算和存储需求的调整,提高数据的复用率降低芯片功耗;还通过支持语音vad功能,满足低功耗设计需求等。
不过,能够将嘉楠的ai芯片推向更广阔市场的关键是risc-v。
冲向万亿美元的aiot市场
“易用性非常重要,开发者如果使用cpu或者dsp就能实现功能,能够降低开发成本和加速产品上市时间。”张楠赓说,“这也是我们在双核64位risc-v cpu基础上增加dsp的重要原因。”
更强的cpu性能对于一款soc的重要性也越来越高。“有一个很有意思的现象,5年前,业界很多人认为soc中的cpu的作用会被弱化,大部分的任务都会用硬件加速器处理,包括ai应用。但这两年,无论是手机还是pc,cpu的竞争越来越激烈,绝大部分的任务还是在cpu上完成,cpu又变得很重要,所以对cpu的性能需求也大幅度增加。”张楠赓表示。
“我认为,未来几年桌面级和移动端先进的技术和架构会迅速下放到原来的mcu中,这个变化可能要到将来3-5年才能看到。”他作出预测。
cpu在soc中的重要性又变得重要,意味着cpu的性能和易用性成为竞争的关键。在aiot市场,虽然统治移动市场的arm占据优势地位,但最近两年risc-v指令集芯片在这一市场进展迅猛,在对软件支持要求不高的应用中,risc-v已经被大量应用,但需要更高性能和更多软件支持的应用就面临挑战。
实际上,勘智k510的cpu是嘉楠自研。“第一代产品我们用的是risc-v开源内核,明显的优势是不需要买版权节省成本,但漏洞也比较多。新一代的勘智ai芯片之所以选择自研,主要还是因为我们的需求超过了开源内核的需求。”张楠赓解释为何开始自研risc-v cpu。
硬件的自研对于有实力的芯片公司而言相对容易,但软件生态的建设就需要整个行业的共同努力。“无论是阿里在risc-v方面的工作,或者如果英特尔收购sifive,这对整个risc-v生态的建设都有非常积极的作用。”张楠赓说:“我们是risc-v坚定的拥护者,所以我们无论是硬件还是软件,都受益于risc-v社区,当然我们也将自己的设计和文档都上传到risc-v社区,希望能够以身作则推动risc-v生态的发展。”
“更多系统的支持对于我们产品的规模推广有非常明显的效果。刚推出勘智k210的时候,没有系统的支持,开发者想要开发难度很大。后来有了rtos和linux的支持,这对我们勘智k510的应用非常有用。”张楠赓表示。
“目前看来,risc-v芯片用到游戏领域可能会差一些,但除此之外的应用,使用risc-v芯片都问题不大。”张楠赓认为“但我也不认为risc-v会完全淘汰arm,arm在很多领域依旧会占有一席之地。”
不可否认的是,risc-v的生态建设依旧是在追赶arm的生态,远谈不上赶超。就嘉楠而言,他们设计出更高性能的ai芯片之后,但很多功能的实现因为软件人员的缺乏,进度受阻。
张楠赓说他早已意识到缺乏软件人员的问题,但他并不打算采用大量招聘软件人才的方式解决这一问题,而是保持嘉楠硬件的基因,通过与更专业的合作伙伴共同解决软件方面的挑战。
张楠赓透露,嘉楠最早会在今年下半年公布在软件方面的合作进展。
还有一个更深层次的问题,嘉楠为什么要选择不成熟的risc-v cpu推出ai芯片?张楠赓的回答是:“在行业的选择上,我们选择了ai这个有巨大需求量的市场,在技术上,选择risc-v有成本优势,在未来的ai市场会大有所为,开源开放也是我们一直拥护的。”
麦肯锡预测,全球aiot市场规模2025年或将达到11.2万亿美元。张楠赓对嘉楠未来3-5年实现亿元级别的ai营收继续保持乐观,并且预测,当嘉楠的ai业务营收达到500万到1.5亿美元的某个时点,会迎来爆发点。
小结
ai和ai芯片为什么会在几年的火热之后就凉了?可以说是落地进展缓慢,更进一步来说缺少完整的ai产品,给消费者提供良好的体验。作为提升产品体验的关键,芯片算力的提升至关重要。嘉楠作为率先推出ai芯片,也是最早选择risc-v的公司,其产品和技术的演进给我们了解aiot市场的发展提供了非常多可参考的信息。
从使用公版cpu到选择自研,从kpu架构的升级,到自研高速接口,可以看到这个市场在高速增长,也能看到嘉楠对于ai市场,以及做一件更大事情的信心。
张楠赓说:“一个公司的成功,最核心的是战略的正确,对于嘉楠来说坚持自主研发就是战略,解决别人没有解决的事情。”
芯片出货量已过亿级,已经有300人芯片团队的嘉楠,保持每两年迭代一款ai芯片,按照算力高低分为2系、5系、8系满足终端和边缘市场需求,针对场景优化的勘智芯片,会带给我们什么惊喜?
- the end -
上一篇: Clob字段转String