观点 / 方法精选
Hugging Face 详解 transformers 为支持 OpenAI GPT-OSS 做出的多项性能升级
原始标题:Tricks from OpenAI gpt-oss YOU 🫵 can use with transformers
内容摘要
Hugging Face 发文介绍为让 OpenAI GPT-OSS 系列在 transformers 上高效运行所做的库升级,包括可从 Hub 下载的零构建内核、MXFP4 原生量化、张量并行、专家并行、动态滑动窗口缓存、连续批处理与更快的模型加载。
内容分类AI 观点与方法
内容层级精选情报
发布时间(北京时间)
本站收录时间(北京时间)
信息来源Hugging Face:Blog(RSS)
站内情报编号intel-6fe11c2b51d08b1a710a158f