高通推处理器AI引擎:小米/中兴/一加首先采用
程序员文章站
2022-04-22 10:45:54
目前,大多数移动机器学习(ML)任务(如图像或语音识别)都在云中执行。智能手机将数据发送到云端,并将结果返回到设备。但是,在设备上本地执行机器学习任务而不是通过云远程执行变得越来越重要。
为了给开...
目前,大多数移动机器学习(ML)任务(如图像或语音识别)都在云中执行。智能手机将数据发送到云端,并将结果返回到设备。但是,在设备上本地执行机器学习任务而不是通过云远程执行变得越来越重要。
为了给开发人员提供更好的基于机器学习强悍功能,高通推出了一个新引擎来支持其当前的机器学习产品。人工智能(AI)引擎由多种硬件和软件组件组成,可供应用程序开发人员使用,以提供在线或者离线的AI的用户体验。
机器学习包括两个不同的阶段:训练和推理。在训练阶段,机器学习算法(有可能是一个神经网络),识别相应的分类的大量示例(照片,语音,任何)。然后,一旦训练完成,神经网络就被用来对新数据进行分类。
例如,机器学习系统可能会接受成千上万的狗照片进行训练,然后在推理阶段显示一个新的,以前没有给它看过的狗的照片,它可以根据其训练,识别出该图像。
高通AI引擎将在一些Snapdragon处理器(845,835,820和660)中的现有CPU,GPU和DSP组件首先启用。
在软件方面,高通AI引擎提供三个组件:Snapdragon神经处理引擎(NPE)软件框架,除了开放式神经网络交换(ONNX)外,还支持Tensorflow,Caffe和Caffe2框架的*异构库。
高通的一些设备合作伙伴已经在使用高通AI引擎的组件。包括小米,OnePlus,摩托罗拉,华硕和中兴。