llama.cpp 与 ggml 发布首个大版本

Georgi Gerganov 宣布 llama.cpp v1.0.0 现已可用，并附上 Hugging Face 官方博客 https://huggingface.co/blog/ggml-org/llama-cpp-v1 供了解详情。

今天我们发布 llama.cpp v0.9.0，接下来几周我们将朝着首个重要版本 v1.0.0 迈进 https://github.com/ggml-org/llama.cpp/releases/tag/v0.9.0

llama.cpp 可通过 ggml RPC 后端在异构设备间分布式推理，作者 Georgi Gerganov 表示这是高级设置，后续会让普通用户更容易使用。被引用的实测称，MiMo 2.6 Flash 的原生 mxfp4 权重可跨 RTX 6000 GPU 与 M5 笔记本以 40 tokens/sec 通过 10 GbE 运行，llama.cpp 开箱即支持。

在 llama.cpp 中为 EmbeddingGemma 2 提供 Day-0 支持 https://huggingface.co/ggml-org/embeddinggemma-2-GGUF

全新的 v0.6.0 版本带来了许多好东西： - 支持 Clef（文本 + 视觉） - 对 Qwen3.8-Flash-Next 的高质量支持 - Metal 性能大幅提升 - 新增 `llama_batch_ext` API 网站也焕然一新：https://llama.app

Hugging Face CEO Clément Delangue 与 @ggerganov 宣布 llama.cpp v1.0.0 发布，这是这个最常用的本地运行 AI 模型库的首个完全稳定大版本。作者称用户可在手机、笔记本和工作站上免费掌控自己的智能，不向任何人发送数据，并承诺支持所有硬件、平台和模型类型，让 AI 分布式而非集中于少数硅谷机构。

Meta 宣布把基于 Muse Wonder 训练的专用模型推向 Muse 和 Meta AI 用户，Personal Superintelligence Index 得分从 38% 提升到 47%。

Meta 宣布将于今年秋季在雷朋 Display 智能眼镜、Quest 头显及新轻薄头显上推出“Hologram”功能。该功能利用生成式 AI（实时扩散模型）创建高度拟真的用户虚拟形象，替代传统摄像头画面用于 WhatsApp 视频通话。用户需通过手机 Meta AI 应用采集面部表情和语音数据完成建模。雷朋版基于音频驱动生成 2D 视频流，Quest 版支持 3D 等身立体呈现。目前存在细节粗糙、侧倾变形等技术局限。

Meta 发布 Muse Realtime Avatar，将 Muse Realtime Voice 的语音流实时转化为带表情、手势和全身动作的交互化身，可基于参考图像驱动人像、插画、动物或日常物品。

Hugging Face 宣布 transformers 支持直接运行 GGUF 量化模型，通过 from_pretrained 传入 gguf_file 即可加载 Hub 上的 GGUF checkpoint，并复用 ggml 的 Metal 内核。