Mistral AI 发布开源稀疏专家模型 Mixtral 8x7B

Mistral AI 发布 Mistral Small 3.1，称其在同类权重模型中优于 Gemma 3 和 GPT-4o Mini，推理速度达 150 tokens 每秒，上下文窗口扩展至 128k tokens，并以 Apache 2.0 许可证开源。

Mistral 发布 24B 参数的 Mistral Small 3，以 Apache 2.0 协议开放预训练和指令微调两种权重。官方称其在 MMLU 上超 81% 准确率、延迟 150 tokens/s，与 Llama 3.3 70B instruct 相当且同硬件快 3 倍以上，量化后可在单张 RTX 4090 或 32GB 内存的 Mac 上本地运行。

Mistral AI 发布基于 Mistral Large 2 的 124B 开源权重多模态模型 Pixtral Large，在 MathVista 达到 69.4%，在 ChartQA、DocVQA 上超过 GPT-4o 和 Gemini-1.5 Pro。

Mistral 发布最新旗舰模型 Mistral Large，称其在常用基准上仅次于 GPT-4，是通过 API 普遍可用的全球第二大模型。Mistral Large 原生支持英法德西意五种语言，具备 32K token 上下文窗口、function calling 和 JSON 输出模式，可在 la Plateforme 与 Azure 使用。

Mistral AI 发布 7.3B 参数开源模型 Mistral 7B，采用 Apache 2.0 许可证。官方重跑评测显示其在所有基准上超过 Llama 2 13B，在多项基准上超过 Llama 1 34B，代码性能接近 CodeLlama 7B。

Mistral 发布 Mistral Large 4（Research Public Preview），在 Artificial Analysis Intelligence Index 得分 38，与 GPT-6 Luna（max, 38）相当，为美中之外最智能模型，计划 10 月底开源 1T 参数（49B 激活）权重。

文章揭示了支撑大语言模型（如GPT、Claude、LLaMA）训练与服务的核心数学框架。通过剖析关键方程，可以逆向推导出顶尖AI实验室在模型规模扩展、计算资源分配及服务优化方面的核心策略与实践。这些数学原理不仅解释了模型性能随参数和数据量增长的规律，也量化了训练成本与推理效率之间的权衡，为理解当前大语言模型的发展路径提供了底层逻辑。

Mistral发布开源权重模型Mistral Small 4，采用119B参数MoE架构（每token激活6.5B参数），支持可切换的推理/非推理模式及图像输入。推理模式在Artificial Analysis Intelligence Index获27分，超越Mistral Large 3，但低于gpt-oss-120B等竞品。模型token效率优于同类，幻觉率更低（AA-Omniscience -30分），支持256K上下文窗口，采用Apache 2.0许可证。

Transformers v5 发布了全新的分词处理架构，核心变化是引入了更简单、统一的 API 设计，将分词器、后处理器和解码器模块化。新版移除了大量遗留代码，使代码库体积减少了约 40%，并显著提升了处理长文本和特殊 token 的灵活性。这一改进旨在降低开发者使用门槛，同时为各类大语言模型（如 GPT、Claude、LLaMA）提供更高效、一致的分词支持。

Cohere 发布 Command A Reasoning，定位企业级推理任务，称在 BFCL-v3（70.3）、tau-bench、m-tau-bench 上优于 gpt-oss-120b、DeepSeek-R1 0528 和 Mistral Magistral Medium。