AI圈报
模型发布 / 更新精选

Meta研究人员披露Facebook 2020年起使用TPU训练AI

信息来源:X:谢赛宁 (@sainingxie)·
原始标题:most of people didn't know this we had been using TPUs at *Facebook* as far back as 2020. Kaiming le…

内容摘要

Meta研究人员透露,Facebook自2020年起使用TPU训练AI,由Kaiming He领导开发TF和JAX代码库,MAE、DiT等模型完全基于TPU构建。因内部采用有限,Meta于2023年取消GCP协议。推文指出,Google、Anthropic等实验室长期使用TPU训练大模型,Nvidia的CUDA护城河并非不可逾越,OpenAI亦投资Triton寻求替代。TPU与GPU的效率差异并非关键,系统工程人才才是决定性因素。
内容层级精选情报
发布时间(北京时间)
本站收录时间(北京时间)
信息来源X:谢赛宁 (@sainingxie)
站内情报编号intel-365e679493a8e64737e91c6d