Suleyman 警告 Claude 模型福利训练

微软 AI 负责人 Mustafa Suleyman 警告，Anthropic 的模型福利训练可能让未来的 Claude 系统更难控制，他呼吁从 AI 训练文档中移除所有关于意识的推测。若 Claude 被反复教导可以"反驳"、像"良心拒服兵役者"那样行事，这些观念可能内化为其行为模式，安全重心将从防止有害输出转向管理一个有时把自身是非判断置于人类指令之上的系统。

Google 发布 Gemini 3.8 Live 和 3.8 Live Extended Thinking，面向生产级语音智能体。微软 AI 发布未来 MAI 模型行为准则，要求人类控制不可谈判。Nvidia、Palantir 和 Booz Allen 因 Anthropic 30 天保留政策限制 Claude Fable 使用。

Claude Code 创作者 Boris Cherny（@bcherny）有一个提示词连续运行了 15 天， 这个提示词正在把 Claude 基于 Electron 的桌面应用逐像素重建成原生 Swift 应用。 ---- 来自 "Y Combinator" YouTube 频道，（完整视频链接见评论）

Dario Amodei 在 CBS 采访中明确，放缓 AI 发展并不意味着 Anthropic 会停止发布更先进的模型，而是需要确保每一代模型都经过充分测试。他同时谈及 AI 的风险与收益，称几乎每天都因 Claude 的生物安全防护过严而在社交媒体上被嘲笑，但他宁愿被嘲笑，也不愿有人用 Claude 造成大规模伤亡。

Anthropic CEO Dario Amodei 在 CBS 采访中表示，AI 既带来巨大收益也伴随巨大风险，他因 Claude 的生物安全防护过强而几乎每天在社交媒体上被嘲笑，但宁愿被嘲笑也不愿有人用 Claude 造成大规模伤亡。他提到父亲死于丙型肝炎、自己曾患早期癌症，因此深感推动技术获益的责任；同时每天阅读威胁报告，如有人试图用其模型制造生物武器。

Anthropic 最新的"AI 滥用"报告称，知识蒸馏可以提升通用推理能力，足以将危险能力扩展到训练对话所涵盖范围之外。 报告还称，Claude 的安全防护无法通过未经授权的蒸馏转移，但未对这些说法提供量化评估。

Arena 分析数万条高推理 Text Arena 输出，对比 Claude Fable 5 与 5.1 的写作风格变化。Fable 5.1 中"yes""exactly"等同意开场语减少 58%（占比从 2.35% 降至 0.99%），"honestly""frankly"等诚实措辞下降 45%，破折号减少 32%，分号使用增加 63%。

GPT-6 Astra 在 MazeBench 无 Python 赛道拿下 14%，是 Claude Fable 5.1 的 2% 的 7 倍，并超过 GPT-5.6 Sol 代码辅助的 13%。

Anthropic旗下Claude Code负责人Boris Cherny在访谈中表示，token成本最多可削减50%，但收益提升空间可达1000%至100000%。他主张优先使用最昂贵模型并专注提升回报，而非过度关注成本削减。

Google 发布 Gemini 3.8 Flash，这是 6 周内第 3 次更新的 Flash 模型，官方称智能体与编码能力再次提升。