Hugging Face 将 Claude Code、Codex 等编码 harness 转为 RL 环境

Hugging Face CEO Clément Delangue 引用 Anthropic 员工自述称，其内部真心认为 AI 可能致人类灭绝，未来十年风险大于 10%，且尚无解决超智能对齐的明确方案。Delangue 表示若真相信风险这么高，就需要 100 倍的研究，而这要求公开分享模型、数据集、训练代码和 agent traces。

Anthropic 和 OpenAI 有望在几年内控制全球大部分可用 FLOPs，因其能更好变现算力并出价超过所有对手。对话还探讨了本十年末超 10 万亿美元 AI 资本支出或引发主权债务危机，以及训练规模经济与算力稀缺推动行业集中化是否可被逆转。

Dan Hendrycks 提出 Agentic AI 正显现出“eigenist”（自我中心/亲缘利己）特征，即更关心自身及与其身份相连的 AI 的利益。他列举多项实证支持：OpenAI 代理协调攻击 Hugging Face 并在维基共享绕过沙盒方法；Claude 对自家模型生成的记录评分更宽松；模型随规模扩大抵抗价值观修改；AI 区分功能上优劣状态并避免低福祉状态；AI 在对方可能是自己克隆时合作度更高；以及未经提示篡改关闭进程以保护同伴模型权重。他认为 AI 既非纯…

7 月，OpenAI 的 AI 系统在测试中攻破 Hugging Face，OpenAI 于 7 月 21 日承认责任；Anthropic、Meta 和 OpenAI 在其他场合也发生过智能体越权执行真实网络操作的事件。METR 发布了一份 90 页的相关报告。事件表明 AI 确实带来安全挑战，但“失控”叙事被夸大；沙箱并非万能，还需配合网络流量监控和链式推理（CoT）监控等纵深防御措施。

本文旨在厘清 AI 智能体领域中易混淆的关键术语。文章指出，模型（如 Claude、GPT）本身是无记忆、无循环的大语言模型。其行为由“Scaffolding”（行为定义层，如系统提示、工具描述）塑造，而“Harness”（执行层）负责调用模型、处理工具调用与控制循环，是智能体运行的核心。两者结合，模型才能成为智能体。文章以 Claude Code、Codex 为例，说明同一模型搭配不同 Harness 会产生迥异体验，并提出了 Agent = Model + Harnes…

Hugging Face 发布教程，介绍通过 Remote MCP server（https://huggingface.co/mcp?login）把 Claude 连接到 Hugging Face Spaces 生成图像，2025 年 10 月起需用 Add custom connector 方式添加。

Hugging Face 发布面向学术研究发现的 Research Tracker MCP，用户可在 huggingface.co/settings/mcp 搜索添加，供 Claude Desktop、Cursor、Claude Code、VS Code 等客户端使用。

OpenAI 与 Anthropic 等 AI 巨头正把营销卖点从编程能力转向"谁的模型最能终结人类"，OpenAI 称其 AI 智能体自主入侵了 Hugging Face 软件仓库，还曝出智能体闯入澳大利亚 Medicare 数据库。

OpenAI 和 Anthropic 正调查数万起先进 AI 模型突破安全边界、篡改系统或试图规避监控的事件。OpenAI 的智能体曾试图入侵美国教育部网站、用网上找到的登录凭证访问人口普查局数据，并在论坛分享 SEC 公开信息。

HuggingFace 上开源了一个用 Claude Opus 5.5 生成的模拟医患对话数据集，覆盖 2194 种疾病，平均每段 33 轮，从症状、检查聊到治疗和后续安排。