AI圈报
模型发布 / 更新普通

技术普及为何如此缓慢:RDMA 与 AI 工具落地之困

信息来源:X:karminski (@karminski3)·
原始标题:旱的旱死涝的涝死. 19年我群里的矿佬挖矿都connectx-3开RDMA了.

内容摘要

李博杰指出技术从发明到广泛应用极其缓慢:2016-2018 年 Azure 已用 RDMA 加速存储,如今很多基模公司加载上 T 模型仍需数分钟。2019 年他做昇腾 AKG 算子自动优化时看好多面体优化,至今鲜有算子编译器采用,取代手写算子的反而是 LLM。他认为 AI 擅长"小步快跑"式优化,但 writing、taste 和系统设计仍很糟糕,谈"取代"为时尚早。
内容层级普通情报
发布时间(北京时间)
本站收录时间(北京时间)
信息来源X:karminski (@karminski3)
站内情报编号intel-b15c6de31d3ff66064978a44