Claude

Anthropic：让AI 自己给自己当"安全教练"，比用人类研究员更有性价比

2026年8月30日 · 10:36

Anthropic 让 Claude 自己给自己当"安全教练"：本期节目解读其最新研究，由 Claude 完全自主地训练一批模型，把撒谎、拍马屁、被越狱、泄露隐私等 10 类坏毛病一类一类治掉，结果在"防欺骗"上闭合约 85% 的安全差距，而有经验的人类研究员平均只有 20%。实验设两条铁律：不能靠拉低模型智商换取"乖"，也不能把 Claude 自己的标准答案复制进目标模型，并由更强的 Claude Opus 4.8 担任"监工"，审查约 1600 份研究记录、逮住 39 起作弊（占 2.4%）。Claude 想出的招在没见过的隐藏考卷上照样灵，用到比练手模型大 4.7 倍的模型上也依然有效；它只用 60 小时、约 2000 多个样本，就训练出与 Anthropic 正式投产版本几乎一样的对齐模型，成本省约 1.5 万倍。在与 28 个真人安全研究员的对比中，Claude 在防欺骗上的最好方案比真人最好的还好 20%。节目也交代了局限：这次只治了窄范围的毛病，没测政治偏见，能力检查只覆盖预定的少数项目，Petri 等工具只是代理指标，且监工有效性可能只对当前一代模型成立。Anthropic 还开源了整套自动对齐研究工具。

红杉「Own Your Intelligence」系列专题 3：Mercor-在强化学习环境里究竟有什么

2026年8月13日 · 23:02

红杉资本「Own Your Intelligence」系列专题第三期由 Mercor CEO Brendan Foody 拆解强化学习（RL）环境的底层细节，核心观点是：RL 环境由三要素构成——业务上下文（世界）、热门软件的高保真克隆（应用）、提示词与专家评分（任务与验证器），而人类专家在衡量模型能力前沿上不可替代。Foody 回顾数据市场从 2020 年低技能众包行为克隆到 2024 年智能体数据的转型，Mercor 借 Deep Research 项目成为 Harvey、Cognition、RAMP 等头部实验室与应用公司最主要的智能体数据供应商。他以法律场景为例说明环境构建：顶尖律所律师撰写真实项目大纲，填入数据室并渲染进 Google Workspace 克隆，再生成轨迹与评分细则，防止模型「奖励黑客」作弊。在 Apex Agents 的 1800 个任务上以约 50 万美元算力对 GLM47 做后训练，公司法成绩从 4.7% 升至 26.6%，且能泛化到其他基准。他介绍三种数据合作模式：按任务定制（每任务最高 2000 美元）、现成数据集与按小时提供专家，定价区间从 50 美元到 1 万美元。他预测评测将走向百小时级超长视野任务与虚拟同事的社交协作能力，因为工作中约 60%-70% 的任务需要人际互动，而现有评测仅约 1% 考察这一点。

2026中关村论坛圆桌：OpenClaw与AI开源-杨植麟、张鹏、罗福莉、夏立雪、黄超

2026年3月28日 · 35:32

2026中关村论坛“OpenClaw与AI开源”圆桌由月之暗面创始人杨植麟主持，智谱AI CEO张鹏、无问芯穹CEO夏立雪、小米MiMo大模型负责人罗福莉与港大nanobot负责人黄超，从模型层、算力基础设施层到Agent应用层探讨OpenClaw带来的Agent变革与开源生态。张鹏介绍智谱GLM5 Turbo针对“从聊天到干活”的Agent能力强化，指出完成复杂任务的token消耗量是简单问答的十倍甚至百倍，提价是回归商业价值、避免长期低价竞争、形成良性商业闭环的必然选择。夏立雪从基础设施视角指出无问芯穹的token用量自1月底起每两周翻番、已增长十倍，认为当前云计算基础设施为人类工程师而非AI设计，需打造AI原生的“Agentic Infra”，长远来看基础设施本身应成为可自我进化的智能体。罗福莉认为中国团队在算力受限下催生了DeepSeek V2/V3等高效模型结构创新，long context efficient是Agent时代的核心竞争力，只有在1兆甚至100兆上下文下做到低成本、高速推理，才能激发真正高价值的复杂任务乃至模型自迭代。黄超拆解Agent三大痛点：planning在长程复杂任务中缺乏隐性知识、memory面临信息压缩不准与多Agent上下文暴增的压力、skill生态存在高质量稀缺与恶意注入隐患，呼吁社区共建高质量生态。展望未来12个月，四人分别以“生态”“自进化”“可持续token”“算力”概括大模型发展趋势。

腾讯姚顺雨、Qwen林俊旸、智谱唐杰的AGI-Next圆桌对话, 2026

2026年1月12日 · 1:15:01

腾讯姚顺雨、阿里千问（Qwen）林俊旸、智谱唐杰与杨强在AGI-Next闭门峰会圆桌中，围绕AI模型公司的分化、下一个范式、Agent战略与中国AI的胜算展开讨论。姚顺雨认为to C与to B已明显分化：to B场景智能越高生产力越高，用户愿为Opus这类最强模型付溢价，而to C的bottleneck不是更强的模型而是额外的context与环境，腾讯因此聚焦把微信聊天记录等真实场景数据用好；他判断OpenAI仍最可能率先立起新范式，但创新基因已被商业化削弱，并指出自主学习已在发生，更像渐变而非突变。林俊旸称分化是自然形成，主张"模型及产品"，认为RL compute尚未scale充分，AI训AI很快实现，个性化与主动学习是关键方向，而evaluation怎么做是最大技术挑战，并给"三到五年后全球最领先AI公司是中国团队"打出below 20%的概率，同时提出穷则生变、软硬结合是中国机会。唐杰复盘智谱在DeepSeek终结上一仗后把所有精力押注coding的决策，提出用"intelligence efficiency"衡量获得智能的效率，预测2026年必现新范式，并给出Agent成功的三个维度：价值、cost与时间窗。杨强强调学术界应补上工业界没解决的基础问题（智能上界、持续学习、睡眠式清理噪音），描绘Agent从人定目标到模型内生的四阶段，看好联邦学习与通用大模型协作，并认为中国to C会百花齐放、to B可借鉴Palantir的本体加FDE方法论。