AI圈报
产品发布 / 更新普通

Amazon 开源 PyTorch 后端 TorchNeuron,支持 AWS Trainium 芯片

信息来源:Amazon Science(RSS)·
原始标题:The science behind TorchNeuron, Amazon’s new PyTorch backend for AWS Trainium chips

内容摘要

Amazon 本周开源 TorchNeuron,可将 PyTorch 代码转换为 AWS Trainium 上可执行的操作,已有 PyTorch 代码几乎无需改动即可运行。它提供可选的 adaptive eager 模式,将操作分组编译并多级缓存,在跨加速器的大语言模型测试中把首次训练步时间缩短约三分之一。团队用 AI 智能体筛选出 841 个代表性模型及数万个张量形状来调优和评测性能。
内容层级普通情报
发布时间(北京时间)
本站收录时间(北京时间)
信息来源Amazon Science(RSS)
站内情报编号intel-0a083c2c76fc1a527e38af8c