6月27日，高通公司产品市场高级总监马晓民出席2024世界移动通信大会（MWC上海），并在“重构未来智能设备”主题会议发表主题为“生成式AI释放智能终端无限潜能”的演讲。

  谈及终端侧AI发展，马晓民认为，生成式AI技术始于云端，但要让其真正发挥出巨大潜力，让人人都能受益于AI，则需要实现终端侧的规模化扩展，需要采取混合AI的方式，协同利用云端和终端的AI处理能力。这种协作模式使得AI能够在终端运行并与云端交互，5G、Wi-Fi 7等高速连接技术和AI的结合，让各类终端与云端得以时时连接。

  谈及终端侧生成式AI的优势，马晓民认为，一方面终端侧生成式AI带来的交互体验围绕用户，实现高度个性化。AI能够根据对用户终端数据的了解预测用户需求，让交互变得更自然、更直观。另一方面，这一交互体验变革将不仅限于智能手机，还将在PC、汽车、XR等多种智能终端上实现。与此同时，用户的隐私也能得到保障，因为所有的处理任务都在终端侧发生，数据将留在终端。最后，还能保障响应速度和可靠性，终端上的一切必须即刻响应，且能够保证高速稳定运转和安全性。

  作为移动技术创新的领导者，高通技术公司的骁龙平台和其支持的前沿技术已经覆盖了广泛的智能终端领域。

  据马晓民介绍，骁龙已成为全球近30亿部智能终端的核心，包括智能手机、笔记本电脑、XR设备、汽车和可穿戴设备等。其中，最新的顶级移动平台第三代骁龙8是终端侧智能的集大成者，它将高性能AI注入整个平台系统，赋能真正满足用户所需的突破性AI体验。

  马晓民介绍说，第三代骁龙8最新的高通AI引擎实现了显著提升，它采用增强架构以提高能效，并面向生成式AI应用大幅提升了Hexagon NPU性能，能够支持大语言模型、大视觉模型以及生成式AI应用，最高可以支持100亿参数的生成式AI模型以20 tokens/s的速度运行。

  随着第三代骁龙8的发布，高通正在为智能手机的终端侧AI性能创造全新体验。

  马晓民介绍，凭借强大的AI性能，第三代骁龙8全面赋能创作体验，提供一整套由AI支持的特性。此外，第三代骁龙8中的全新AI功能，将为旗舰智能手机带来变革性的全新影像体验，让用户可以更轻松地创作和编辑照片和视频。基于第三代骁龙8的这些强大AI特性，高通已经助力OEM合作伙伴推出了众多出色的安卓旗舰产品。这些产品带来了丰富的创新AI用例，例如AI实时翻译、文本总结、AI照片编辑等等。

  为推动终端侧生成式AI体验走向更多消费者，高通在今年3月还推出了新生代旗舰——第三代骁龙8s移动平台。马晓民表示，骁龙8s同样具备诸多强大的终端侧生成式AI功能，并支持广泛的AI模型。这款平台也已经赋能OEM厂商推出了众多具备出色AI用例的中高端安卓手机。

  “第三代骁龙8和第三代骁龙8s赋能了强大的安卓旗舰机阵容，覆盖了影像旗舰、性能旗舰、电竞旗舰等丰富的品类，骁龙已经助力OEM打造了众多创新的AI用例，将驱动释放终端侧生成式AI的无限潜能。”马晓民说。

  强大的终端侧生成式AI能力的核心来自高通AI引擎。马晓民说，高通AI引擎采用异构计算，集成CPU、GPU和神经网络处理器NPU，全面面向AI处理优化。CPU和GPU作为通用计算单元，能够快速运行各类模型和应用程序，而NPU则专为实现以低功耗加速AI推理而打造。基于高通公司统一的技术路线图，高通AI引擎应用在了高通广泛的产品组合中，以确保用户的所有智能终端，无论是AI手机，还是AI PC，都具备相应的强大能力，能够随着AI模型、用例、需求日新月异的发展，始终带来智能的个性化终端体验。

  提高终端侧生成式AI处理的性能和能效，需要靠异构计算来满足不同类型的AI用例需求。因此，智能终端必须要有强大的CPU。

  马晓民表示，一颗集成在SoC中的定制CPU将为处理复杂用户体验、实现更快性能、延长电池续航和数据优化带来更多可能性。“我们希望将强大的高通Oryon CPU引入到我们下一代骁龙旗舰移动平台。在今年的骁龙峰会上，我们将带来高通最快、也是最高效的骁龙移动平台。”