一位程序员的自白：AI 让我感到悲伤

Forge 是一个为自托管大语言模型设计的可靠性层，专注于提升工具调用能力。它通过错误解析、重试提示、步骤强制等防护机制以及高效的上下文管理，成功将8B参数模型在复杂多步骤智能体任务中的表现从53%大幅提升至99%。其核心配置（Ministral-3 8B模型）在自建的26项评估中综合得分达86.5%。Forge 提供三种集成方式：作为全托管工作流运行器、多智能体架构的共享调度器，或嵌入自有编排循环的防护中间件，并附带一个可透明接入的OpenAI兼容代理服务器。

InsForge是一个专为AI编码智能体设计的一站式开源后端平台。它通过MCP Server和CLI+Skills两种接口，让智能体能像后端工程师一样直接操作数据库、认证、存储、边缘函数、模型网关等全套后端服务，从而端到端地构建全栈应用。平台支持云托管与基于Docker的自托管，可一键部署至Railway、Zeabur等主流平台。

数学家 Andreas Thom 指责 OpenAI 在非 sofic 群结果上行为不诚实，质疑他与 ChatGPT 的互动可能进入了训练数据。此前 NYU 教授 Tristan Buckmaster 也质疑 OpenAI 是否受益于其 unpublished 工作；OpenAI 否认访问过特定用户数据，但不排除去标识化数据的间接影响。多位研究者担心此类事件会促使数学界走向更保密。

一位从事 AI 蛋白质与肽设计的博主撰文反驳经济学家 Noah Smith 关于 AI 设计超级病毒可杀死 90% 人口的设想，认为计算设计生物系统极其困难，青少年用 AI 制造致命病毒的场景距现实巨大。文章指出病毒在致死性与传播力之间存在根本权衡，AI 无法绕过这些生物学限制，并主张真正值得担心的是麻疹免疫逃逸、刚果埃博拉疫情等自然病毒风险和公共卫生投入。

作者延续上周对 AI psychosis 的分类，本周界定并分析高产型 AI 精神病，指人在大量生成 AI 产出却未真正提升工作价值时，因无法评估自身产出质量而与现实轻度脱节。

曾在 Anthropic 和 OpenAI 工作的研究员 Jacob Coxon 宣布离职，称两家公司正径直奔向自我改进的超级智能，是在拿人类生命冒险。Anthropic 对齐团队负责人 Evan Hubinger 附议称确信 AI 可能在十年内杀死全人类，估计概率高于 10%，且目前尚无超级智能场景下保持对齐的方案。

AI 普及的最大瓶颈是"发现难题"：能力被锁在空白提示框后，用户不知道能问什么，可能性因此不可见。模板和上下文感知只能部分缓解，无法根治。系统应主动、按上下文逐步揭示自身能力，而非把发现可能性的负担全推给用户。

作者发布一个基于 Transformers.js 的 LLM 注意力可视化工具，可悬停查看生成 token 依赖的历史 token，代码开在 GitHub。可视化将所有层、所有注意力头的注意力权重乘以 value 向量模长后聚合为单一数值控制透明度，并预生成提示词避免下载数百 MB 模型；作者还通过修改 onnx 文件暴露内部值，上传到自己的 Hugging Face 仓库供浏览器生成使用。

Dwarkesh Patel 与 Zyphra CTO Beren Millidge、Thinking Machines 首席科学家 John Schulman、Baseten 模型训练负责人 Charlie O'Neill 三位研究者对谈递归自我改进（RSI）的前景。

作者实测 DeepSeek V4.1 Flash，缓存命中输入降价 7 倍多、输出砍三分之二，9 月 14 日中午 12 点起所有发往 v4-pro 的请求将被强制路由到 4.1 Flash 并按其低价计费。