正当业界热议“AI世界只有OpenAI和其他AI”之时，曾一度沉寂的Anthropic公司掷出了杀手锏——由前OpenAI研究副总裁创立的该公司推出了最新Claude3模型，各项性能指标全面超越GPT4，为AI领域带来了新的颠覆性突破。
AI行业的风云变幻揭示了这一行业仍处于初级发展阶段，技术迭代迅猛，暂时的领先优势可能转瞬即逝。虽然一些惊艳的新技术已现世，但迟迟未公开或部署应用，例如文中提及的Sora模型，直至本文发布时，公众依然无法正式访问和体验。
在生成式AI的研发与本地部署之间存在着一道显著的鸿沟。当前，大众使用的云端访问式生成式AI产品（如ChatGPT）受限于带宽限制，在处理复杂模型时显得力不从心。以一架波音787飞机为例，每秒产生的5G数据若通过云端计算再返回，飞机可能已在飞行数公里之外，这种延迟对于需要实时响应的场景（比如飞机上的AI功能）无疑是无法接受的。同时，用户敏感信息和隐私数据的存储，本地化处理相较于云端更为安全可靠。
无论生成式AI多么强大，如何实现本地部署始终是行业发展道路上必须解决的关键问题。这其中的核心挑战在于如何将庞大复杂的“大模型”嵌入小巧的“小设备”，尤其是在资源有限、不具备液氮冷却及持续供电条件的移动终端如智能手机上运行AI。
异构计算，一种潜在的破局之道，高通公司的异构计算AI引擎为此提供了一种切实可行的解决方案。它通过整合CPU、GPU、NPU以及高通传感器中枢和内存子系统，实现了AI在本地的高效部署，并大幅度提升了AI用户体验。
高通AI引擎的核心组成部分包括Hexagon NPU、Adreno GPU、高通Oryon或Kryo CPU、高通传感器中枢和内存子系统，各部分协同运作，发挥各自所长。其中，NPU作为专为AI推理设计的低功耗处理器，尤其在需要长时间稳定输出高性能AI任务时展现卓越优势。而CPU擅长顺序控制和处理小型传统模型；GPU则更适用于高精度并行运算，满足高质量视频和游戏需求。
当我们将这些处理器集成一体，便构建出强大的异构计算架构。历经多年升级迭代，高通AI引擎中的Hexagon NPU已达到业界顶级的AI处理水平。搭载第三代骁龙8平台的手机，凭借支持LPDDR5x内存（频率高达4.8GHz），能快速读取大型语言模型数据，实现极快的token生成速率，带给用户全新的AI体验。
高通对NPU的研究始于远早于生成式AI走入公众视野的时期。自2007年首款Hexagon DSP在骁龙平台上亮相以来，历经多次重大更新与革新，至2023年10月25日发布的第三代骁龙8，其集成的Hexagon NPU成为了高通面向生成式AI精心打造的最前沿、最优设计。
高通提供的全套解决方案不仅包含硬件芯片，还包括针对AI开发者和下游厂商的全方位优化服务。这意味着高通可以从整体层面识别并解决AI开发瓶颈，针对性地提升性能。例如，第三代骁龙8通过大幅提升内存带宽效率，成功助力AI大模型的开发与运行。
在2024年2月26日的世界移动通信大会（MWC 2024）上，高通展示了全球首个能在移动终端侧运行超过70亿参数的大型多模态语言模型（LMM），基于骁龙X Elite平台，该模型能够接收文本和音频输入，并基于音频生成多轮对话。得益于集成Hexagon NPU的移动终端，用户可以享受到前所未有的一步到位AI体验。以移动终端AI旅行助手为例，用户可通过语音提出旅行计划需求，AI助手迅速给出航班建议，并通过语音对话调整结果，最后利用Skyscanner插件完成完整航班预订操作。
在各大基准测试中，搭载高通AI引擎的产品均展现出碾压同类竞品的优异性能表现。无论是鲁大师AIMark V4.3还是安兔兔AITuTu的测试得分，第三代骁龙8相比竞品均有数倍的提升。而在PC端的ResNet-50、DeeplabV3等测试项目中，骁龙X Elite同样遥遥领先。
除硬件层面的AI引擎外，高通还提供了全方位赋能工具，包括AI软件栈（高通AI Stack）和AI Hub模型库。AI Stack解决了AI开发中的重复劳动问题，支持主流AI框架，让开发者实现“一次开发，全平台部署”。AI Hub则包含近80个AI模型，涵盖了生成式AI、传统AI及图像识别等多个领域，极大地简化了AI开发流程。
总结而言，高通从硬件（AI引擎）、软件（AI Stack）到素材库（AI Hub）三个维度，深度且广泛地推动着厂商加速AI开发进程，其产品线覆盖了几乎所有的终端设备类型。目前，AI应用正处于井喷前夜，教育、医疗、养老等领域都有着广阔的应用前景。在这个关键节点，先行一步的AI产品开发者将有机会通过率先建立用户粘性，在未来的竞争中抢占先机。
