NVIDIA

RSI、AI for AI、AutoResearch 这些概念都在说什么

2026年8月17日 · 13:49

本期节目系统综述模型的“自我进化”（RSI，递归自改进）及同类概念AutoResearch、AI for AI与持续学习，核心主张是：模型自我进化并非凭空的黑科技，而是预训练与架构、后训练与强化学习、推理Infra、Harness四大底层能力叠加到一定程度后的必然结果。节目指出顶级模型总参数已奔向10万亿（如DeepSeek V4 Pro达1.6万亿），但MoE每次推理仅激活3%–5%的参数，如同万人大校只叫最对口的几十位教授，配合混合注意力机制与Muon优化器实现“又大又省”。在落地实例上，田元栋的初创公司Recursive靠AI自动优化GPU算子、在英伟达算子优化竞赛中夺冠并高出第二名专业团队整整10%，Kimi K3也在用早期版本帮自己做算子优化；RSI与“蒸馏”有本质区别——蒸馏像小学生抄大学霸作业永远无法超越，RSI则是模型自己研究自己、形成螺旋上升的闭环。OpenAI计划2026年9月做出AI研究实习生、2028年前实现完全自动化的AI研究员，Anthropic的Agent已独立工作800小时完成开放式AI安全研究，Karpathy也加入了Anthropic。最后节目介绍Ilya Sutskever创办的SSI正打造的TTT（测试时训练）新范式：允许模型在推理阶段实时修改自身参数，可能颠覆现有静态权重范式，带来极致数据效率、真正的长期记忆沉淀与算力Scaling的新维度。

杨植麟2026中关村论坛演讲：开源AI加速探索智能上限

2026年3月27日 · 10:43

月之暗面创始人兼CEO杨植麟在2026年中关村论坛的演讲中指出，大模型的本质是把能源经算力与模型转化为智能，而竞争关键在于'有效规模化'而非暴力堆算力，核心抓手是提升Token效率与长上下文能力。在最新的开源模型Kimi k2.5中，他提出'Agent集群（Agent Swarm）'概念：类比人类公司组织，并行调度上百个Agent互相协作、协调与规划，使任务执行时间不再随任务复杂度指数增长，从而实现规模化输入、输出与编排，把原本不可能的复杂任务变为可能。架构层面，他沿用十年前残差网络的思路，将注意力机制从时间轴'旋转90度'应用到深度轴，结合块状残差结构，以约2%的额外成本大幅提升模型效果，挑战了Adam优化器、Attention架构、残差连接等沿用8到11年的行业标准。他强调开源让Kimi等模型成为全球芯片厂商评测和研究机构使用的新标准，降低了企业、研究者与终端用户获取智能的门槛。他还预判AI研发范式将从天然数据加人工标注、走向大规模强化学习，再到'AI主导研究'：每个研究员配备大量AI Token，由AI合成任务与环境、定义奖励函数并探索新的网络架构，月之暗面愿与开源社区共建生态、加速智能技术发展。