6.1
深览指数
科技Bestblogs·月之暗面 Kimi··AI 生成
Kimi K3：智能的新前沿
月之暗面正式发布 Kimi K3，一个 2.8 万亿参数的开源 MoE 模型，基于自研的 KDA 混合线性注意力和注意力残差技术，拥有 100 万 token 上下文窗口。文章展示了 K3 在 GPU 内核优化、从零构建编译器、芯片设计、科研文献复现等高级编程与 Agent 任务中的能力，并承认其整体表现仍落后于 Claude Fable 5 和 GPT-5.6 Sol 等最强闭源模型。适合关注大模型前沿技术、开源模型能力边界以及 Agent 应用落地的读者。原文 ↗
核心观点
- ▍Kimi K3 是全球首个开源的三万亿级别参数模型，基于 KDA 混合线性注意力和注意力残差架构，MoE 采用 896 专家激活 16 的稀疏配置。
- 01K3 在自动 GPU 内核优化任务中，展示了持续自主完成复杂工程任务的能力，例如优化 AI 训练框架的关键算子。
- 02K3 能够从零开始构建一个功能完整的编译器，独立完成词法分析、语法分析、代码生成等全部流程。
- 03在芯片设计场景中，K3 可辅助完成 RTL 代码生成和验证，参与复杂数字电路的设计流程。
- 04K3 能够复现部分科研论文的实验结果，例如在自然语言处理领域的基准测试中，根据论文描述独立编写代码并运行。
- 05K3 可端到端生成行业研究报告，进行数据可视化，甚至完成基础的视频剪辑任务，产出接近人类专业人士水平的成果。
- 06文章宣称 K3 的扩展效率较前代提升约 2.5 倍。
反方 / 局限
- — 作者明确承认，K3 整体表现仍落后于最强的闭源模型，如 Claude Fable 5 和 GPT-5.6 Sol。
- — 文章指出 K3 的局限性包括：对历史思考内容敏感，以及过于主动，可能导致在需要精确遵循指令时产生偏差。
3 分钟 · 3 卡片 · 9 资料
读原文 →