消费电子行业点评报告:端侧AI周跟踪:Agent模型加速落地,端云协同提升端侧AI价值
这篇研报讲什么?
摘要原文摘录Meta发布Muse Glimmer,30B级Agent模型可实现消费级单卡本地部署。8月10日,Meta发布约300亿参数的开源权重多模态模型MuseGlimmer,定位于可长期运行在个人设备上的本地Agent,官方表示模型可在单张消费级GPU上运行。Glimmer采用Dense结构,支持文本、图片输入及文本输出,覆盖100余种语言。机器学习研究者Seb…
机构观点归属东吴证券,研报雷达仅作摘要整理与机构观点聚合。以下为研报摘要原文摘录,内容以原始报告为准。
研报摘要
投资要点
Meta发布Muse Glimmer,30B级Agent模型可实现消费级单卡本地部署。8月10日,Meta发布约300亿参数的开源权重多模态模型MuseGlimmer,定位于可长期运行在个人设备上的本地Agent,官方表示模型可在单张消费级GPU上运行。Glimmer采用Dense结构,支持文本、图片输入及文本输出,覆盖100余种语言。机器学习研究者SebastianRaschka指出,Glimmer BF16模式下KV Cache仅约52KiB/token,低于Qwen3.627B的64KiB/token,并远低于Gemma431B约840KiB/token;其认为Glimmer最突出的特点在于较低内存占用、较快Prefill/Decode速度与较完整Agent能力的组合。
NVIDIA发布Nemotron3.5Lightning,进一步明确“强模型规划、小模型执行”的Agent分层架构。8月11日,NVIDIA推出Nemotron3.5Lightning30B-A3B,底层采用Mamba-2、MoE与Attention混合架构,支持最长1M上下文,可运行于GeForce RTX5090、DGX Spark、Jetson等本地设备。NVIDIA将该模型定位为Agent系统中的高频执行层:由前沿模型负责复杂任务的规划和推理,再由Lightning负责工具调用等高频执行任务,并配合NeMo Switchyard根据任务复杂度动态决定调用大模型或小模型,从而避免Agent每一步均调用高成本Frontier Model。Artificial Analysis评测显示,其智能水平并非同尺寸模型最高,但输出速度中位数达到约301token/s,显著高于同尺寸开放权重模型约106token/s的中位水平。
Google发布Pixel11系列及Pixel Watch5,端侧AI承担任务进一步增加,AI应用由被动响应向主动协助与持续感知演进。8月12日,Google在Made by Google2026发布Pixel11系列四款手机、Pixel Watch5及首款Pixel Tag。一方面,Google进一步提高端云协同架构中由终端本地直接承担的AI计算比例。新版实时翻译功能采用由Tensor G6驱动的端侧生成式AI模型,在本地处理实时语音到语音翻译并对视频、音频进行实时配音;Pixel Watch5搭载Snapdragon W5Gen2Accelerated及低功耗双芯片架构,其Raise to Talk功能开始直接由端侧AI处理,包括启动锻炼、设定计时器等任务。另一方面,AI应用形态继续由“用户主动调用助手”向主动Agent、多模态交互和持续感知延伸。Pixel11上的Gemini Intelligence已可处理覆盖40余个App的多步骤任务,Pixel11Pro Fold则利用折叠屏双屏形态引入Sign-to-Text,通过前置摄像头识别美国手语并在外屏实时输出文字;Pixel Watch5通过GeminiIntelligence Proactive Suggestions结合日历等上下文主动在腕上给出下一步操作建议,另一方面还通过多模态传感器与端侧AI持续监测严重、持续的血氧下降,并基于Health Foundation Models提供血压、睡眠呼吸质量及胰岛素抵抗等长期趋势分析。
推理效率诉求提升,端侧AI重要性凸显。我们认为,随着AI基础设施投入规模持续扩大,CSP对ROI与推理效率的重视度明显提升;与此同时,Agent应用使模型调用频次快速增加,端云协同的重要性进一步凸显。我们看到,NVIDIA已探索由云端Frontier Model承担复杂规划、端侧高效模型承担高频、低延迟执行任务,Google新品中本地AI承担的翻译、语音及感知任务亦持续增加。随着模型效率和端侧算力提升,未来更多高频任务有望向本地迁移,端侧AI在整体算力体系中的重要性有望持续提升,建议关注端侧AI产业链机会。
风险提示
技术创新不及预期风险,终端需求不足风险,宏观环境风险。
同公司研报
继续比较不同机构对同一公司的判断。
同行业近期研报
从单家公司继续回到行业研究。