高通AI软件栈产品组合 首次通过单一AI软件组合实现跨终端运行

  如今AI已经在智能手机、可穿戴设备、PC、XR、汽车等各类终端和平台落地，赋能千行百业。同时，数字化与智能化也激发了市场对于AI技术应用的巨大需求，为了加速AI生态发展，OEM、开发者都在寻找一种更简便的方式能够面向所有业务部门和产品线实现AI扩展和普及。

  高通技术公司产品管理副总裁Ziad Asghar提到，高通的客户提出的一个主要需求便是将在一个产品上的开发成果应用到其他产品线上，为了解决这个行业痛点，高通利用硬件和软件端的优势，带来了全新高通AI软件栈(Qualcomm AI Stack)。 

  6月22日，高通宣布推出高通AI软件栈产品组合，提升其在AI和智能网联边缘领域的领先优势。据悉，高通AI软件栈包括硬件、软件及工具三大关键组成部分，是面向OEM厂商和开发者的一套完整的AI解决方案，集合了领先的AI软件产品并进行了升级，通过丰富的AI软件权限和兼容性能够支持各种智能终端，首次通过单一的AI软件组合，实现跨高通技术公司赋能终端的运行，覆盖智能手机、汽车、XR、计算、物联网和云平台等领域。例如，OEM及开发者在智能手机上取得的成果，无需重新开发即可以部署在搭载骁龙计算平台的PC上。

  高通AI软件栈支持TensorFlow、PyTorch和ONNX等AI框架与主流runtimes，以及开发者库与服务、系统软件、工具和编译器。高通AI软件栈产品组合还支持高通AI模型增效工具包(AIMET)、AI开发图形用户界面(GUI)、用于增强量化与优化的模型分析器以及神经网络架构搜索(NAS)等工具套件，助力开发者实现面向单一终端开发的AI特性也可以更高效的部署在其他终端。据高通介绍，AIMET包含多项技术，助力开发者搭建体积更小、能效更高的模型，从而在硬件端进行部署时有更好的表现。例如，AIMET提供模型量化和模型压缩技术，能够进行量化感知训练(Quantization Aware Training)和无数据训练，将浮点运算模型转化为整数运算模型，比如将32位浮点模型转换为8位整数模型，使模型能效提升多达4倍。 

  2021骁龙技术峰会上，高通技术公司和Google Cloud宣布将Google Cloud Vertex AI NAS集成至高通神经网络处理SDK，赋能OEM厂商和生态系统创建、测试和部署独特且高效的边缘侧体验。高通神经网络处理SDK仍然是OEM厂商和开发者在高通技术公司各类产品上运行神经网络的关键，因此将进行定期升级与维护。该工具套件将为高通建立统一SDK提供基础，从而实现跨智能网联终端部署。

  高通技术公司产品管理副总裁Ziad Asghar表示：“完整的高通AI软件栈产品组合无疑是一项巨大突破，它将推动OEM厂商和开发者的AI开发，为高通技术公司的广泛产品组合带来高性能表现。我们很高兴借助这一全新产品组合进一步扩展公司的统一技术路线图，并扩大在智能网联边缘的领先优势。”

  另外，高通AI软件栈产品组合支持直接访问高通AI引擎和采用高通AI引擎Direct的高通Cloud AI 100专用AI核心。作为全新解决方案的一部分，高通AI引擎Direct现可在高通技术公司所有产品中的任何AI加速器上进行扩展，作为一个AI库，它可以在高通技术公司的平台上直接向AI加速器委托和部署现有模型，不仅能够为OEM厂商和开发者提供模型开发的功能，还支持将新开发的模型迁移至不同产品和层级。 

  微软AI框架架构杰出工程师Yuan Yu表示：“高通技术公司持续打造先进的AI解决方案，让开发者能更加便利地使用当前最强大的AI和机器学习功能。我们正积极推动将高通AI软件技术带入到微软的生态系统中，其中包括专门面向Windows的高通神经网络处理SDK，通过提供从客户端扩展到服务器的统一完整AI软件，提供从边缘到云端的AI功能。”

  高通AI软件栈现已商用上市。