猜想：低并发下模型量化精度损失更低更聪明

Google发布的Gemma4系列开放权重模型包含多个版本，选型需结合场景。带"-it"后缀为指令微调版，开箱即用；不带后缀为基座模型，供自行微调。其中，A4B指激活参数量为4B，E4B则采用逐层嵌入技术，以内存换取计算量，优化移动端性能。选型建议：综合性能与速度选26B-A4B；追求最佳代码或任务效果选31B；开发本地全模态应用选E4B；资源受限设备体验可选E2B，但输出质量有限。

针对 Intel Optane PMem 作为 KV cache 分层介质的讨论，karminski 实测指出其写速度甚至打不过 SSD，CPU1 上 2 条 128G 还受 NUMA 影响。他认为现代 PD 分离推理至少需要 40GB/s 的 KVCache 池速度（传输时间不超过 Prefill 耗时的 10%），因此 400Gb RDMA 内存池更合适。

小米正在直播 mimo-v2.6-pro 和 flash 两模型的 Agentic RL 后训练，mimo-v2.6-pro 的 DeepSWE 得分为 62，低于 DeepSeek-v4.1-flash 的 74.2，仍处训练早期。

有人用刚发布的豆包 seed-2.1-pro-0915 做了一个企业财报分析工具，模拟顶级做空机构的多源尽调思路：调用卫星遥感图像核查厂房建设进度、全球海事系统追踪船只卸货地点、本地招工网站排查招工信息。该版本重点升级了多跳搜索和复杂长程任务能力，使这类跨源信息整合成为可能。

@UnslothAI 各位，我们需要 unsloth/K2-Horizon-7B-GGUF-UD-Q4_K_XL.gguf

karminski 分享了一个 Hugging Face Space 项目 MiniCPM5-2B-WebGPU-Pi，用 Pi 打包 Coding Agent、由 MiniCPM5-2B 4bit ONNX 版（不到2G）驱动，框架和模型全部运行在浏览器中，无需 Docker 或 Node，打开网页即有虚拟终端、文件编辑和 tool_call。

有用户指出，模型厂商用max档位刷榜，却反过来称max不适合普适场景，并让用户改用high档。引用推文称lobehub内部bench测试也显示high比max强，且差距不小。该用户表示自己实测同样high优于max，此前测小模型量化版时甚至有的medium表现更好，认为这是后训练不足却被包装成最佳实践。

karminski 发布大模型从零实现向量数据库的后端 Agentic Coding 排行榜（SIFT1M 上 recall ≥ 95% 的 QPS 计分）。

DeepSeek 宣布 V4.1 Flash 在性能、费用、速度、总用时等指标上全面超越 V4 Pro，V4.1 Flash 上线后、V4.1 Pro 上线前，V4 Pro 请求将被路由到 V4.1 Flash 并按 Flash 价格计费。karminski 转发该公告并提出质疑，认为哪怕新建一个 deepseek-v4-lts 作为 alias 也好过直接改路由。

karminski 发布混元 Hy4 preview 实测视频，用多智能体游戏测试替代此前的送外卖 Agent 测试，AI 需控制游戏角色打怪并协作召唤出的 SubAgent，测试中学会团战和堵门打法。在后端 Agentic Coding 测试中，Hy3 得 16 分，Hy4 得 10779 分。