5.6
深览指数
科技智东西·程 茜··AI 生成
WAIC现场直击:端侧算力竞赛爆发,聆思手握下一代AI终端落地关键筹码
WAIC 2026 显示AI赛道正从云端算力竞赛转向端侧智能硬件落地。文章以聆思科技即将发布的Nebula系列端侧AI推理芯片为核心案例,论述了端侧大模型芯片面临的技术挑战:传统芯片架构无法满足Transformer模型在低功耗、低时延、高带宽、小型化场景下的推理需求。聆思宣称其Nebula芯片通过原生NPU架构和3D-DRAM堆叠技术,可实现10倍加速、100 tokens/s的推理速度。文章还梳理了聆思从语音/视觉芯片到端侧认知芯片的演进路径,认为端侧AI芯片将成为下一代智能终端的基础设施。适合关注AI芯片、端侧推理、终端硬件产业的技术从业者或投资者阅读。原文 ↗
核心观点
- ▍AI产业竞争焦点正从云端算力转向端侧本地推理,端侧AI芯片将成为支撑全品类物理智能终端落地的基础设施。
- 01WAIC 2026 上,手机、AI PC、人形机器人、智能座舱、全屋中控等泛终端硬件成为展台核心,AI正从网页对话窗口进入具备感知、交互、执行能力的真实设备。
- 02传统端侧芯片基于CNN/RNN架构设计,面对Transformer类大模型时,在推理时延、带宽、功耗控制上存在局限,缺乏专为端侧大模型推理原生设计的AI芯片。
- 03聆思Nebula系列芯片预计年底发布,宣称实现10倍计算加速性能提升、推理速度超过100 tokens/s,并通过3D-DRAM堆叠技术将内存带宽提升至传统LPDDR的5-10倍。
- 04Nebula芯片支持10倍模型参数规模扩展,可搭配不同容量堆叠内存,可通过芯片级联技术实现算力弹性扩展,并配套工具链、SDK和参考设计。
- 05聆思累计芯片出货量超过亿颗级别,在语音方向已进入海尔、美的等白电供应链,在视觉方向应用于扫读笔、手持云台、运动相机、智能门锁等终端。
- 06聆思已联合联想、聆动机器人、海尔、美的、面壁等企业启动联合预研,瞄准AI PC、机器人、智慧家庭、智能座舱四大方向。
反方 / 局限
- — 文章未提及Nebula芯片的功耗、工艺制程、具体成本等实际量产参数,这些指标对端侧规模化落地至关重要。
- — 文中未提及同业竞争格局,如高通、联发科、英特尔、AMD等厂商在端侧AI芯片上的布局与竞品分析。
- — 文章所引用的技术数据(10倍加速、100 tokens/s、5-10倍带宽)均来自聆思单方面披露,缺乏第三方独立验证或对比测试数据。
13 分钟 · 5 卡片 · 15 资料
读原文 →