观点 / 方法普通
SemiAnalysis 发布 TPUv7 Ironwood 第三方推理评测,每美元性能最高比 B200/B300 高 50%
原始标题:TPU Inference Externalization Full Steam Ahead - InferenceX
内容摘要
SemiAnalysis 在 InferenceX 上发布 TPUv7 Ironwood 的首批第三方推理结果,FP8 聚合服务下 Ironwood 每美元性能最高比 B200/B300 高 50%,在 20 tok/s/user 交互速度下每百万 token 成本约 0.181 美元,低于 B200 的 0.222 和 B300 的 0.276 美元。
内容分类AI 观点与方法
内容层级普通情报
发布时间(北京时间)
本站收录时间(北京时间)
信息来源SemiAnalysis 长文 RSS(RSS)
站内情报编号intel-816219d2a810c162b7bd1cc4