llama.cpp v0.9.0 发布，迈向 v1.0.0

llama.cpp 可通过 ggml RPC 后端在异构设备间分布式推理，作者 Georgi Gerganov 表示这是高级设置，后续会让普通用户更容易使用。被引用的实测称，MiMo 2.6 Flash 的原生 mxfp4 权重可跨 RTX 6000 GPU 与 M5 笔记本以 40 tokens/sec 通过 10 GbE 运行，llama.cpp 开箱即支持。

在 llama.cpp 中为 EmbeddingGemma 2 提供 Day-0 支持 https://huggingface.co/ggml-org/embeddinggemma-2-GGUF

全新的 v0.6.0 版本带来了许多好东西： - 支持 Clef（文本 + 视觉） - 对 Qwen3.8-Flash-Next 的高质量支持 - Metal 性能大幅提升 - 新增 `llama_batch_ext` API 网站也焕然一新：https://llama.app

Meta 宣布将于今年秋季在雷朋 Display 智能眼镜、Quest 头显及新轻薄头显上推出“Hologram”功能。该功能利用生成式 AI（实时扩散模型）创建高度拟真的用户虚拟形象，替代传统摄像头画面用于 WhatsApp 视频通话。用户需通过手机 Meta AI 应用采集面部表情和语音数据完成建模。雷朋版基于音频驱动生成 2D 视频流，Quest 版支持 3D 等身立体呈现。目前存在细节粗糙、侧倾变形等技术局限。

Meta 发布 Muse Realtime Avatar，将 Muse Realtime Voice 的语音流实时转化为带表情、手势和全身动作的交互化身，可基于参考图像驱动人像、插画、动物或日常物品。

Hugging Face 宣布 transformers 支持直接运行 GGUF 量化模型，通过 from_pretrained 传入 gguf_file 即可加载 Hub 上的 GGUF checkpoint，并复用 ggml 的 Metal 内核。

Meta 发布个人智能体 Muse，运行在用户专属的 Muse Secure VM 中，并公开其安全设计。系统默认假设智能体可能被攻击：运行环境用 systemd-nspawn 隔离，Sentinel 作为唯一权限机构审批所有连接器操作和网络出站，代理令牌机制确保模型看不到真实凭证，配合提示注入检测分类器和内核级 taint tracking。

Meta AI 超级智能实验室的首个开放权重模型 Muse Glimmer 已在 OpenRouter 上线！ 这是一款 30B 密集文本+图像模型，采用 Apache 2.0 许可证，旨在成为可靠的本地智能体，MCP Atlas 得分 75.5，SWE-Bench Pro 得分 51.2。 https://openrouter.ai/meta/muse-glimmer-30b

腾讯混元将295B参数的Hy3旗舰模型权重量化至1bit与4bit并打包成GGUF，配合llama.cpp生态，使原本需多卡集群部署的模型最少一张96GB推理显卡即可运行。1bit版将权重从598GB压缩至85.5GiB，4bit版体积169.9GiB，两张显卡可承载；量化版在长文理解、Agent与代码任务上贴近满血效果，开启MTP后解码速度提升约50%-60%。

Weave 发布智能模型路由工具，通过 `npx @workweave/router` 安装，作为本地代理运行在 localhost:8080。它采用基于 Avengers-Pro 1 的集群评分器，每个请求自动选择最佳模型。支持 Anthropic、OpenAI、Gemini 原生 API，并通过 OpenRouter 接入 DeepSeek、Kimi、GLM、Qwen、Llama、Mistral 等开源模型。用户自行保管提供商密钥，数据本地加密存储。工具兼容 Claud…