Databricks 内部编码智能体接入开源模型

一个年薪50万美元的工程师，每个工作日成本是2000美元。 如果每天花200美元的LLM token能让他们生产力提升20%（这在今天绝对是事实），那就是公司里最容易算的ROI之一。 贵的不是token。是没被充分利用的工程师。

今天试了 Opus 5.5。说实话没被惊艳到。 - 让它研究一个我最近学到的棘手问题。它答错了。Astra 答对了。 - 编程方面，Astra 感觉还是更好。 这印证了我之前的看法：前沿 LLM 的编程能力已经停滞。 现在的竞争越来越是每美元智能的比拼。

Claude 回来了。 Opus 5.5 比 Opus 5 每任务快约 30%、便宜约 40%。这真的很有吸引力。 在冷落它一个月后，是时候重新打开 Claude Code 了……

正在发生两件事： - 前沿 LLM 的编码能力已趋于停滞。自 Opus 4.8 以来，我们还没看到大幅跃升。- 开源模型不断缩小与前沿闭源模型的差距，而成本却低 10-50 倍。 这就是为什么我们看到企业正大规模地从闭源模型转向开源模型。

针对Dylan Patel称开源正在消亡、多家中国模型实验室将不再开源下一代模型的说法，Yuchen Jin表示从中国AI实验室听到的情况并非如此，它们计划继续开源模型。他认为在GPU有限的情况下，从推理服务商获取收入分成是一种可持续的商业模式，也是强有力的分发渠道。

想象一下 2 年后： GPT-6 Astra 级别的开源模型在每台 MacBook 上本地运行。 而 AI Twitter 还在争论同一件事： "开源 AI 会导致人类灭绝吗？"

我最近常用的模型 + 工具栈组合： 1. Kimi K3 是最好的开源编码模型。GLM-5.3 紧随其后。2. DeepSeek V4.1 Flash 是我处理简单/中等任务的首选：极快且便宜。3. 复杂任务我会用 Astra。4. Codex 搭配开源模型效果更好。Claude Code 会让同一个模型成本翻倍。

在 Databricks，越来越多的工程师开始把开源模型作为日常主力，几乎不再动用 Claude 或 Astra。 我们的推理客户也在看到同样的趋势：即使只把内部编码流量中的 20% 从 Claude/GPT 转向开源模型，也能大幅削减开支。 开源模型在企业中的采用将会非常庞大。

AI 不会取代律师 但它会取代那些仍然认为 AI 不会取代律师的律师 【引用 @OpenAI】：Astra for Law：为你的执业打造的前沿智能。 一项由 GPT-6 Astra 驱动的新服务，提供工具、设置和上下文，以支持律师和法律科技公司的专业能力与判断力。

有人猜猜 OpenRouter 上这个 Union Alpha 猛兽是什么吗？ Claude Fable 5.1 级别，便宜 10 倍以上。等它开源。