开场介绍0:00
感谢 " 屠龙之树 " 主播庄明昊老师的推荐 。 红杉资本近期发起了一个名为 "Own Your Intelligence" 的系列专题分享 , 邀请在企业自建智能方面实践最多的几家公司 , 围绕战略理念 、 模型后训练 、 强化学习环境与垂直落地四大议题做系统分享 。
本期由红杉合伙人 Sonya Huang 立论 , 她系统阐述了 " 主权 AI(Sovereign AI)" 的核心逻辑 : 下一代软件的护城河正从产品层转移到智能层 , 仅调用黑盒 API 难以建立壁垒 , 企业必须在模型权重层面掌握控制权 ,不是你的权重 , 就不是你的产品 。
她同时指出 , 自建智能不仅能压降推理成本 、 实现低延迟 , 还能在垂直领域突破通用模型上限 ,并建议企业并行建设生产栈与开发栈 , 让专有数据持续反哺模型进化 。
以下是演讲内容 。
好的 , 大家早上好 , 非常感谢各位的到来 。 今天在座的有大约 80 位我们投资组合公司的创始人和 AI 负责人, 来一起探讨一个非常及时的话题 : 拥有你自己的智能 ,Owning Your Intelligence, 或者说主权 AI(Sovereign AI)。
何为主权AI0:53
今天的活动一半是动员号召 , 一半是技术实操指南 , 所以我们把议程排得满满的 , 我想都是高含金量的技术演讲和演示 。
这样我们不只是嘴上说说 " 构建你自己的 AI",而是真正一起学会怎么做到 。 所以非常感谢大家从百忙的早晨抽出时间来参加 , 我知道你们的时间极其宝贵 。
那我们就直接开始吧 。 那让我们从基语讲起 : 什么是 " 主权 AI"? 主权 (Sovereign AI) 是一个拥有完全自治权的独立国家 ,而主权 AI 指的是公司拥有自己的智能 , 直到权重 (weights) 层面都没有外部依赖 。
这里一个重要的细微差别是 : 我们绝对不是告诉我们的公司 " 弃用 Opus 或 GPT", 那绝对不是我们要传达的信息 。
对于编码 、 智能体 、 对于桌面工作 、 对于前沿级别的 API、 闭源模型 API 都非常棒 ,但我们观察到的是 , 越来越多我们的公司正在走上一条路 : 想在他们产品的某些部分构建自己的 AI 能力 ,并垂直整合 ,以拥有更多这种智能 。
所以今天的会议就是为那些刚开始踏上这段旅程的公司准备的 。 我们显然不是唯一有这个想法的人 ,在过去一个月里 , 围绕 " 主权 AI" 的言论急剧升级 , 像 Alex Karp 和 Satya 这样的人都在发声支持公司拥有自己的智能 。
就在上周 ,Jensen 带头确保开放权重模型在美国仍然可用 , 看到几乎一致的支持浪潮 , 真是太棒了 。 我认为信息非常清楚 : 公司想要拥有自己的智能 ,他们想要拥有而不是租用他们的权重 。
我想这仅仅是因为智能太核心 、 太根本了 ,不能简单地外包 。 我们很高兴主权 AI 现在处于时代精神之中, 因为我们觉得这对世界是件好事 。
一方面 , 你有集中化的智能 : 一个全能的 AI 作为一个黑箱 , 吞噬所有数据废弃和来自世界其他地方的所有数据飞轮 , 驱动着世界上越来越多的 GDP; 另一方面 , 你有去中心化的智能 : 整个世界构建在一个坚实的内核之上 ,但每一个个人 、 每一家公司都在其上构建自己的智能 , 定制到他们自己的数据 ,他们自己的行业 ,他们自己的个性化 ,他们自己的工作方式 ,他们自己的品味 。
于是生态系统繁荣 , 个性取胜 , 没有哪一家公司吞并其余所有 。 我认为这是一个乐观得多的世界观 。 所以我们和几十家正在踏上构建自己 AI 旅程的公司合作 , 这里是我们看到人们行动的最大的几个原因 。
原因第一是成本 , 尤其是对于低毛利 、 零毛利 、 负毛利的公司来说 , 主权 AI 不是锦上添花 ,而是必需品 。
自建四大动因3:50
讽刺的是 , 你的 AI 产品越成功 , 你的 AI 销货成本 (COGS) 往往就越高 。 所以实际上, 恰恰是那些在 AI 部署方面最先进的公司 , 最先踏上 " 拥有自己模型 " 的这段旅程 。
原因第二是速度 , 所以在某些领域 , 编码是其中之一 , 安全是另一个 。 一个小的 、 蒸馏过的定制模型可以打败一个大的通用模型 ,因为速度太重要了 。
原因第三是性能 , 这是相对较新的一个 。 我会说去年, 大多数公司并不是为了获得更好的性能而选择拥有自己的智能 ,但现在我们到了一个节点 : 在你的领域里 , 开放模型可以胜过封闭模型 。
我们会在今天的议程上花很多时间讨论如何做到这一点 。 然后原因第四 , 掌控你自己的命运 。Anthropic 和 OpenAI, 我其实认为 , 公平地说 ,他们一直是生态系统中很多人的 、 非常好的合作伙伴 ,但公司越来越发现 ,他们也想要自己的一套独立支柱可以站立 。在座有谁是从加密货币时代过来的 ?
或者记得加密货币时代 ? 好的 , 你们记得这个梗吗 ? 好的 ,在加密货币时代 ,DeFi 玩家圈子里有这个梗 : 不是你的钥匙 , 就不是你的加密货币 。
所以 , 如果有人在替你托管你的加密货币 , 那它从根本上就不是你的 。 我在此奉上这个梗的 AI 版本 : 不是你的权重 , 就不是你的产品 。
我认为要让产品真正属于你 , 合理地想 , 你需要能够控制并托管你自己的权重 。Pat 在 AIscent 上展示这张幻灯片时, 谈到 " 应用层的竞赛 ",他看起来好自豪 。
智能层竞赛5:43
笑点是 ,AGI 实验室和应用公司正在从不同的两端 , 竞相成为 " 面向用户 " 的产品 。 基础模型实验室从模型这一端 , 应用公司从用户这一端往回做 。
我认为我们现在正看到一个新动态浮现 , 那就是战场越来越不只是应用层的竞赛 ,而是智能层的竞赛 。
所以这个战场不再只是关于谁能控制产品 (UI)、 市场 、 进入策略 、 包装 , 它实际上是关于谁能拥有智能本身 ,并在产品中塑造更好的智能 。
所以产品就是智能 。 最新的战场不只是产品表面 ,而是智能层本身 。 所以在我看来 , 最炙手可热的新实验室 , 实际上是那些我们现在从公司里涌现出来的应用研究 , 比如 Harvey、Factory、Glean、OpenEvidence、Semgrab、RAMP。
这个名单可以一直列下去 。 我认为这些研究横跨一切 : 从评测和基准 , 到 Harness 框架 、 工程 , 到微调的新算法技术 ,以及很多很多 。
我们今天早上开始谈 " 集中化与去中心化的智能 ", 我认为很高兴看到这个民主化智能世界里发生的大量创新 。
我其实认为应用公司就是最新的 Neolabs。 好的 , 我假设今天在座的所有人都比较认同这段旅程 。 让我们假设你想建立自己的实验室 , 构建自己的模型 , 你如何从 0 到 1, 再到 100?
我们今天在这里要做点不一样的 : 我会摆出一个有观点倾向的框架和技术路线图 , 所以请对它保持巨大的怀疑态度 。
行动框架7:12
每家公司都不一样 ,而且我不是技术出身 , 所以请对这个框架保持大大大的怀疑态度 ,但我希望它能提供一个有用的起点 , 帮助思考如何构建你自己的智能 。
拥有你智能的第一步是战略 : 你 AI 的哪些部分想拥有 , 哪些部分想租用 。 第二步是团队 : 弄清楚如何配备人员 , 组织人们去生产智能 。
第三步是可见性 (Legibility), 我真的觉得这一点被忽略了 ,而且极其重要 , 这个稍后详谈 。 然后最后第四步 , 我们要谈一个 " 技术路线图 "。
要构建你自己的智能 , 你需要组装哪些积木 ? 那让我们深入进去 。 第一步 , 定义你想拥有与想租用的能力 。
拥有与租用8:05
主权 AI 不是二元的 , 你不是 0% 主权或 100% 主权 。 战略的一个重要部分是划清界限 : 哪些智能你想拥有 , 哪些你接受外包 。
这里有一个有用的框架 : 思考你想拥有与想租用的部分 。 我认为有四个重要因素 : 一是成本 , 比如这个成本项在总销货成本 (COGS) 里有多重要 ; 二是速度和延迟 , 它是不是 P0。
最高优先级因素三是性能 。 这是变得非常有意思的地方 : 过去 , 你会在不在乎性能的时候选择开放权重 ; 现在我们到了一个节点 ,在某些领域 , 你可能通过在自己数据上调优模型获得更好的性能 , 然后最后专有数据 。
你所在的领域里 , 你给模型用来改进的数据 , 对你的业务是超级专有还是不那么专有 ? 这里有一些公司如何做这个取舍的例子 : 在编码领域 , 你既有智能体 ,也有自动补全 (Autocomplete)。
在智能体这边 , 今天大部分仍然是租用的 ,因为你想要强大的开箱即用性能 ,而且延迟不是 P0。 另一方面 , 对于编码中的 Tab( 自动补全模型 ), 你真的真的在乎速度 ,而且这些 API 调用如此频繁 , 成本真的会累积起来 。
所以现在大多数 Tab 自动补全模型都运行在主权智能之上 。 我在一家隐身模式的网络安全公司工作 ,Allen, 我想我之前看到你了 。
那家公司拥有自己的模型主要是为了速度和性能 ,以及能够以非常定制的方式后训练模型 。 生物公司正在转向他们自己的模型 ,因为那个领域专有数据的价值 。
所以我认为这只是一个有用的框架 , 用来思考我想拥有与想租用哪些 AI 能力 。 第二步 , 组建团队 。
组建团队10:01
我这里展示了两种实验室负责人的画像 , 仅作为例子 :Nico 更偏研究一侧 , 之前在 Apple 做研究 , 然后在 Google Brain;Alex 更偏工程一侧 ,在 Microsoft 担任过多个工程职位 , 然后去了 RAMP。
我展示这个只是为了说明 , 通往涅槃的路有多条 , 取决于你公司将要做的研究风格 ,是更偏基础还是更偏应用 , 适合做实验室负责人的画像也不同 。
我还认为 , 思考如何设计你的组织也很重要 。 传统上,AI 团队经常被组织成枢纽 (Fully Hub and Spoke) 模式 , 所以你有一个单一的平台团队 , 支撑不同的 AI 产品 、 不同的应用产品团队 。
而我看到的是 , 很多公司把这个 AI 平台团队硬塞去同时做 " 主权 AI" 的事情 。 我鼓励大家不要这么做 。
我鼓励人们在这里从零开始 ,因为这从根本上不是一种平台服务能力 。 你想要的是能随机应变 、 能在前沿思考 、 能产出前沿水平研究的人 ,而且这是如此不同风格的研究 。
你想让他们 " 打进攻 ",而不只是服务团队 。 所以我们看到 , 小的 、 新建的 (de novo) 团队在这里能走得很远 , 比如 Harvey 他们发表了大量研究 ,他们只有一支 7 人团队 。
可见性11:24
所以从小开始 , 我会说从零开始 , 考虑把它做成你自己的实验室 。 第三步 , 可见性 (Legibility)。 我认为这一点的重要性被完全低估了 ,因为我猜在座很多人都在内部做着很棒的研究 ,但并不是所有的研究对外都很可见 。Winston Weinberg 看到过 ,CEO 的责任是双重的 : 一是推动实质性的结果 ,但二是掌控叙事 , 掌控围绕你所构建东西的可见性 。
我完全同意 。 当谈到拥有你的 AI 技术栈时, 可见性真的很重要 ,因为现在每一个买家都在选择他们的 AI 冠军 ,他们一遍又一遍地收到同样的推销 ,他们试图辨别哪家供应商足够老练 , 能带我去应许之地 。
你知道 ,他们想选择懂行的人, 越来越低 , 这意味着发布你自己的研究 。 所以在这里可见意味着 , 做优秀的技术营销 ,也许拥有你自己的独立品牌 、 实验室或研究小组 、 发表有品味的 (high taste) 研究 , 所有这些都非常重要 。
我认为它被忽视了 。 所以 , 对于在座的所有红杉公司 , 我真的真的要推动我们思考这一点 。 然后最后, 第四步 , 设定你的 " 技术路线图 "。
技术路线图12:40
高层来看 , 我看到公司走的大致旅程 , 每家公司走的旅程都不一样 ,但首先你设定你的战略 。 第二 , 定义评测 (Evals)。
这太重要了 , 这是不风光的工作 , 这不是有趣的工作 。 但你在前面做得越多 , 你为之后的一切准备得就越充分 。
所以我认为在一开始就把这个做对 ,是极其极其关键的 。 接下来我们看到公司开始摆弄模型 ( 路由器 (Harness))。
有些公司发现他们能用开箱即用的模型获得良好的性能 , 另一些公司发现从后训练中获得很强的性能提升 ,在少数情况下需要进入中期训练 (Mid Training、 预训练 、Pre Training)。
然后最后, 把那个机器设置好 , 让实时客户数据真正创造一个反馈循环 : 你的模型 、 你的智能 , 随着每一次客户交互而改进 。
所以这就是我看到人们走的大致旅程 。 再说一次 , 每家公司都非常非常不同 , 我鼓励今天在座的每一位 , 和身边的人交换笔记 。
每个人都在这段旅程的某个地方 。 拥有你自己技术栈的美妙之处在于 , 你现在真的可以驱动前沿级别的性能 , 所以这在某种程度上是新的 。在很大程度上, 这要感谢最新的开放权重模型 , 尤其是 Kimi K3 和 JLM 5.2 非常出色 ,因为权重是可用的 , 它们实际上比使用封闭 API 更具可塑性 。
所以你先从一个已经接近前沿的基线开始 , 然后凭借足够好的技术路线图 , 凭借强大的后训练 ( 提示词 Harness 工程 )、 在线学习 , 你实际上可以通过拥有自己的技术栈 , 达到超越前沿的性能 。
所以这对 2026 年来说是新的 , 我认为这非常非常重要 。 这是人们开始思考拥有自己智能的很大一部分原因 。
我喜欢图表 , 所以为了让我们所有人都对齐方向 , 这里是我从基础设施角度如何看待这个技术栈的 。
双栈架构14:38
左边是生产 (Production), 这是你面向用户的智能 , 这是驱动你的用户最终看到的每一个 token 的技术栈 。 从根本上说 , 我认为生产栈就是一个模型之上的 Harness 框架 。
与之并行的 , 你有一个开发栈 (Development Stack), 这些是你用来让你的智能变得更好的工具和供应商 。在闭源模型生态里 , 这整个技术栈非常简单 : 你有像 Opus GPT 这样的基础模型 , 你有每个模型开箱即用的 Harness, 你可以用这个技术栈走得很远 , 包括构建你自己的 Harness( 提示词 , 把上下文喂给模型做你自己的评测 ), 但你实际上不需要收集大量数据 , 你实际上不需要
训练你自己的模型 。 所以这是一个简单得多的技术栈 。 所以我会说 , 这是一个更高的 " 下限 ",但也是一个更低的 " 上限 ",因为你实际上没有能力拿你自己的数据 、 拿在线的生产数据 , 然后改进你自己的智能 。
从你开始思考拥有自己智能的那一刻起 , 就像打开了潘多拉魔盒 ,因为那个漂亮的 、 干净的 API 调用 , 现在变成必须训练你自己的模型了 。
所以不再是单一模型 API 加上一些开箱即用的好性能 , 你必须选择一个开源基座 ,在它之上做大量的后训练 。
对于你的 Harness, 你有几个开源 Harness 可以选择 , 然后配置 Harness( 逻辑 、 工具 、 上下文 ), 就是你的责任了 ,而不是拿一个开箱即用的智能体 。
顺便说一句 , 上下文对驱动性能真的非常非常重要 ,有好几种不同的上下文在驱动这些模型 : 一个向量数据库 , 比如 TurboPuffer; 一个企业知识图谱 , 比如 Glean; 显然还有通过 MCP 的开源连接器 , 甚至还有新颖的上下文方法 。Ngram 的 Dan Bitterman 今天在场 ,他们正在做围绕把上下文编码进权重本身的新颖研究 。
所以我鼓励任何想聊记忆 (Memory)的人 ,在某个休息时间去找 Dan, 然后与生产栈并行 。 当你拥有自己的 AI 时, 开发栈变得重要得多 。
你必须仔细监控评测 , 你了解你的智能水平如何 ,并观察模型在生产中的性能漂移 。 你需要大量高质量数据来为你的领域后训练模型 ,有时这是专家轨迹 ,有时是合成数据 ,有时是 RL 环境 。
然后最后, 你需要思考如何为你的系统设置在线学习 (Online Learning), 这样你的智能会随着每一次用户交互而变得越来越好 。
所以我们今天安排的方式是 : 我们挑选了一系列技术工作坊 , 深入讲解构建你自己的 AI 所需的一切 , 除了预训练你自己的模型之外的一切 。Fireworks 的 Lynn 将主持一个关于后训练的工作坊 ,Lanchin 的 Harrison 将主持一个关于 Harness 和评测的工作坊 ,Moko 的 Brendan 将主持一个关于 RL 环境 、 合成数据等等的工作坊 。
工作坊与结语17:18
然后最后,Trajectory 将主持一个关于在线学习的工作坊 。 然后为了把所有东西串起来 ,Harvey 将主持一个工作坊 , 讲他们如何构建他们整个 AI 技术栈和战略的方法 。
就在昨天 ,他们宣布了 Harvey Research, 你会看到 ,他们的技术合作伙伴中有好几位今天也在演讲 。 所以我们真的全力以赴 , 为今天安排了最好的演讲者阵容 , 既有投资组合内的 ,也有投资组合外的 。
这就是今天跟大家分享的全部内容 。 欢迎订阅 《AI 知识录 》, 获取最新鲜的 AI 领域最新知识 。 最后插播一个广告 : 主播自己的 AI 创业产品 UNAVI, 一个能一键整合你的飞书 、 钉钉 、 腾讯会议 Plaud 和其他录音卡 / 录音豆 , 随时随地帮您解读日常会议与沟通背后的深意 。
锁定关键信息的 Agent 应用已经正式上线 , 最新的版本也支持了直接给它播客连接 , 它就能轻松完成转写 、 总结 、 分析 , 甚至多个播客的关联解读和分析 。
如果你有兴趣 , 欢迎在本播客的公告栏查看体验方式 。 我们下期见 。
