6.1
深览指数
科技Bestblogs·Kimi··AI 生成
Kimi K3 技术博客:开放前沿智能
Kimi 发布了首个开源 2.8 万亿参数模型 K3,采用新颖的 Delta Attention 和 Stable LatentMoE 架构,在代码、智能体、推理和视觉任务上达到前沿水平,与顶级闭源模型性能相当。文章重心在于展示 K3 自主完成复杂长周期任务的能力,如优化 GPU 内核、设计芯片、复现天体物理研究,并介绍了 K3 在 Kimi Work 中的持久交互式知识工作功能。适合关注大模型技术前沿、开源模型进展及 AI 自主 Agent 能力边界的读者。原文 ↗
核心观点
- ▍Kimi K3 是全球首个开源 2.8 万亿参数模型,其架构创新(Delta Attention、Stable LatentMoE)使其在代码、智能体、推理等任务上达到与顶级闭源模型竞争的前沿水平。
- 01Kimi K3 拥有 2.8T 参数,采用 16/896 专家的 Stable LatentMoE 架构,并引入 Kimi Delta Attention 和 Attention Residuals 以改善信息流,相比 K2 实现了约 2.5 倍的扩展效率。
- 02在基准测试中,Kimi K3 在 DeepSWE、Terminal Bench、BrowseComp 和 GPQA-Diamond 上表现强劲,性能与 Claude Fable 5 和 GPT 5.6 Sol 等领先专有模型相比具有竞争力。
- 03K3 展示了自主完成复杂长周期任务的能力,包括:优化 GPU 内核、构建类似 Triton 的编译器 MiniTriton、开发 3D 开放世界游戏、在 48 小时内从零开始设计芯片,以及从 20 多篇论文中复现天体物理学研究。
- 04K3 原生支持 100 万 token 的上下文窗口和视觉能力,能结合代码和实时截图进行迭代,适用于游戏开发、前端、CAD 和视频编辑等需要文本和视觉交互的任务。
- 05K3 可通过 Kimi.com、Kimi Work、Kimi Code 和 Kimi API 使用,完整权重将于 2026 年 7 月 27 日发布。
- 06文章介绍了 Kimi Work 中的 Widgets 和 Dashboard 功能,用于支持持久、交互式的知识工作。
反方 / 局限
- — 文章承认 K3 在部分基准测试上仍落后于 Claude Fable 5 和 GPT 5.6 Sol 等顶级专有模型,且未提及该模型在何种具体应用场景下存在显著劣势或失败案例。
Kimi K3Kimi Delta AttentionAttention ResidualsStable LatentMoEClaude Fable 5GPT 5.6 SolTritonMiniTritonDeepSWETerminal BenchBrowseCompGPQA-DiamondKimiKimi WorkKimi Code
4 分钟 · 5 卡片 · 14 资料
读原文 →