模型发布 / 更新普通
技术普及为何如此缓慢:RDMA 与 AI 工具落地之困
原始标题:旱的旱死涝的涝死. 19年我群里的矿佬挖矿都connectx-3开RDMA了.
内容摘要
李博杰指出技术从发明到广泛应用极其缓慢:2016-2018 年 Azure 已用 RDMA 加速存储,如今很多基模公司加载上 T 模型仍需数分钟。2019 年他做昇腾 AKG 算子自动优化时看好多面体优化,至今鲜有算子编译器采用,取代手写算子的反而是 LLM。他认为 AI 擅长"小步快跑"式优化,但 writing、taste 和系统设计仍很糟糕,谈"取代"为时尚早。
内容分类AI 模型发布与更新
内容层级普通情报
发布时间(北京时间)
本站收录时间(北京时间)
信息来源X:karminski (@karminski3)
站内情报编号intel-b15c6de31d3ff66064978a44