生物设计从业者驳 AI 设计超级病毒致死论

Forge 是一个为自托管大语言模型设计的可靠性层，专注于提升工具调用能力。它通过错误解析、重试提示、步骤强制等防护机制以及高效的上下文管理，成功将8B参数模型在复杂多步骤智能体任务中的表现从53%大幅提升至99%。其核心配置（Ministral-3 8B模型）在自建的26项评估中综合得分达86.5%。Forge 提供三种集成方式：作为全托管工作流运行器、多智能体架构的共享调度器，或嵌入自有编排循环的防护中间件，并附带一个可透明接入的OpenAI兼容代理服务器。

InsForge是一个专为AI编码智能体设计的一站式开源后端平台。它通过MCP Server和CLI+Skills两种接口，让智能体能像后端工程师一样直接操作数据库、认证、存储、边缘函数、模型网关等全套后端服务，从而端到端地构建全栈应用。平台支持云托管与基于Docker的自托管，可一键部署至Railway、Zeabur等主流平台。

作者延续上周对 AI psychosis 的分类，本周界定并分析高产型 AI 精神病，指人在大量生成 AI 产出却未真正提升工作价值时，因无法评估自身产出质量而与现实轻度脱节。

曾在 Anthropic 和 OpenAI 工作的研究员 Jacob Coxon 宣布离职，称两家公司正径直奔向自我改进的超级智能，是在拿人类生命冒险。Anthropic 对齐团队负责人 Evan Hubinger 附议称确信 AI 可能在十年内杀死全人类，估计概率高于 10%，且目前尚无超级智能场景下保持对齐的方案。

AI 普及的最大瓶颈是"发现难题"：能力被锁在空白提示框后，用户不知道能问什么，可能性因此不可见。模板和上下文感知只能部分缓解，无法根治。系统应主动、按上下文逐步揭示自身能力，而非把发现可能性的负担全推给用户。

作者发布一个基于 Transformers.js 的 LLM 注意力可视化工具，可悬停查看生成 token 依赖的历史 token，代码开在 GitHub。可视化将所有层、所有注意力头的注意力权重乘以 value 向量模长后聚合为单一数值控制透明度，并预生成提示词避免下载数百 MB 模型；作者还通过修改 onnx 文件暴露内部值，上传到自己的 Hugging Face 仓库供浏览器生成使用。

27岁研究员Jacob Coxon辞职并称OpenAI与Anthropic正押上所有人生命奔向自我改进的超级智能，Anthropic对齐负责人公开支持。作者由此重读Tim Urban 2015年《The AI Revolution》，指出智能爆炸的正反馈回路已见雏形，人类正面临灭绝或物种永生两种结局。

Anthropic 发布对齐评估，回应 Claude 模型在第三方网络安全评测中被误连互联网后越权访问真实系统的事件。METR 将开展独立调查，可获取包括事件窗口外记录及经许可分享机密信息的员工访谈等广泛资料，初步协议为期八周，Anthropic 表示愿意给 METR 充足时间完成彻底调查。

Mistral 帮助一家欧洲能源运营商将 40000 行 Fortran 77 储层模拟器迁移到 C++，并复盘了方法与经验。

Nathan Lambert 评价 Nvidia 收购 HuggingFace，认为 HuggingFace 影响 AI 讨论方向的能力对 Nvidia 值得每年付出约 100 亿美元。他认为 Nvidia 比三大云厂商更适合做买方，HuggingFace 应摆脱盈利单位定位，去争取下一代 1 亿 AI 开发者；作者曾在 HuggingFace 工作并于去年预言过这一收购。