Kimi K3 技术报告解读
2026年7月17日 · 12:53
本期节目解读月之暗面(Kimi)于7月16日发布的旗舰大模型 Kimi K3:全球首个突破三万亿量级并开源的模型,参数量达2.8万亿,官方坦言其整体实力仍落后 Claude Fable 5 与 GPT-5.6 Sol,但稳居开源第一梯队。技术上,K3 采用自研 KDA 增量注意力机制与注意力残差技术,配合896个专家(每次激活16个)的 MoE 架构,规模化效率较上一代 K2 提升2.5倍,并具备原生视觉能力和100万字上下文窗口。节目用大白话拆解了这些架构原理,并复盘官方实战案例:K3 在24小时内独立优化 GPU 算子,性能比肩 Opus 4.8 与 GPT-5.6 Sol;从零手搓出与行业标杆 Triton 打平的 MiniTriton 编译器;在48小时内基于45纳米工艺自主设计出一枚4平方毫米、含100多万个标准单元的微型 AI 芯片。科研场景中,它翻阅20多篇论文、敲下3000多行 Python 代码复现天体物理规律,甚至揪出人类论文中的公式错误,把研究员一两周的工作压缩到约2小时。配合 Kimi Work 平台,K3 能生成出版级交互报告、Widgets 小组件与 Dashboard 仪表盘、3Blue1Brown 风格科普动画,并自动完成视频剪辑;底层则采用 MXFP-4/MXFP-8 低精度格式与完全平衡的专家训练,官方建议企业用64张以上加速卡部署。主播同时坦承 K3 在交互体验上仍有不足,片尾介绍了赞助产品 UNAVI。