AI圈报
产品发布 / 更新普通

PyTorch 2.15 的 MPS 后端大更新:FP8 上 Mac,MoE 解码提速 5-6.5 倍

信息来源:Hugging Face 官方团队博客·
原始标题:MPS in PyTorch 2.15

内容摘要

Hugging Face 的 PyTorch 团队介绍 PyTorch 2.15 的 MPS 后端更新,将 FP8(torch.float8_e4m3fn)带到 Mac,并通过 Metal 内核加速语言模型解码。
内容层级普通情报
发布时间(北京时间)
本站收录时间(北京时间)
信息来源Hugging Face 官方团队博客
站内情报编号intel-1de346a3505129d11e5e1521