Jev 模型介绍：放弃自回归、只做结构化决策输出

Google发布的Gemma4系列开放权重模型包含多个版本，选型需结合场景。带"-it"后缀为指令微调版，开箱即用；不带后缀为基座模型，供自行微调。其中，A4B指激活参数量为4B，E4B则采用逐层嵌入技术，以内存换取计算量，优化移动端性能。选型建议：综合性能与速度选26B-A4B；追求最佳代码或任务效果选31B；开发本地全模态应用选E4B；资源受限设备体验可选E2B，但输出质量有限。

Jev 模型放弃传统自回归架构，无法直接输出普通文本，只能按预定义 Schema 做结构化决策输出，例如垃圾短信二分类会返回带概率的 JSON（isSpam true 0.982 / false 0.018）。其真正护城河是 RLCD（校准强化学习），使输出很难出现概率失真，但代价是模型表现刻板、只适合干活。目前仅支持文本输入，复杂场景需把内容转成文本并定义可选动作，模型再自主决策。

对 OpenRouter 上匿名模型 union-alpha 的简单测试显示，它不像 2026 年现阶段的旗舰级模型。关键线索是构建 3D 场景时它仍使用 three.js r127（2021 年版本），而今年测试的模型都已迭代到 three.js r160（2023 年底发布），因此作者判断它既不像国内旗舰模型，也不可能是 OpenAI/Anthropic 的模型。

针对 Intel Optane PMem 作为 KV cache 分层介质的讨论，karminski 实测指出其写速度甚至打不过 SSD，CPU1 上 2 条 128G 还受 NUMA 影响。他认为现代 PD 分离推理至少需要 40GB/s 的 KVCache 池速度（传输时间不超过 Prefill 耗时的 10%），因此 400Gb RDMA 内存池更合适。

有观点提出一个玄学猜想：当模型并发为1、只有单个请求时，极端量化下走GEMV而非GEMM，累计精度损失更低，模型表现更聪明。该猜想由引用推文"闲时的AI会不会更聪明"引发，目前仅为个人推测，未提供任何实验数据或验证结果。

小米正在直播 mimo-v2.6-pro 和 flash 两模型的 Agentic RL 后训练，mimo-v2.6-pro 的 DeepSWE 得分为 62，低于 DeepSeek-v4.1-flash 的 74.2，仍处训练早期。

有人用刚发布的豆包 seed-2.1-pro-0915 做了一个企业财报分析工具，模拟顶级做空机构的多源尽调思路：调用卫星遥感图像核查厂房建设进度、全球海事系统追踪船只卸货地点、本地招工网站排查招工信息。该版本重点升级了多跳搜索和复杂长程任务能力，使这类跨源信息整合成为可能。

@UnslothAI 各位，我们需要 unsloth/K2-Horizon-7B-GGUF-UD-Q4_K_XL.gguf

karminski 分享了一个 Hugging Face Space 项目 MiniCPM5-2B-WebGPU-Pi，用 Pi 打包 Coding Agent、由 MiniCPM5-2B 4bit ONNX 版（不到2G）驱动，框架和模型全部运行在浏览器中，无需 Docker 或 Node，打开网页即有虚拟终端、文件编辑和 tool_call。

有用户指出，模型厂商用max档位刷榜，却反过来称max不适合普适场景，并让用户改用high档。引用推文称lobehub内部bench测试也显示high比max强，且差距不小。该用户表示自己实测同样high优于max，此前测小模型量化版时甚至有的medium表现更好，认为这是后训练不足却被包装成最佳实践。