旱的旱死涝的涝死. 19年我群里的矿佬挖矿都connectx-3开RDMA了.
顶尖科学家和工程师,包括我自己,经常忽略的一点是,技术从被发明到广泛应用是非常缓慢的(参考:跨越鸿沟)。几个例子: 1. 我 2016-2018 年在微软实习的时候 Azure 就全面使用了基于 RDMA 和智能网卡加速的存储。2021 年我在华为的时候,线下的企业存储也用上了 RDMA。没想到几年之后,很多基模公司的...
李博杰指出技术从发明到广泛应用极其缓慢:2016-2018 年 Azure 已用 RDMA 加速存储,如今很多基模公司加载上 T 模型仍需数分钟。2019 年他做昇腾 AKG 算子自动优化时看好多面体优化,至今鲜有算子编译器采用,取代手写算子的反而是 LLM。他认为 AI 擅长"小步快跑"式优化,但 writing、taste 和系统设计仍很糟糕,谈"取代"为时尚早。
李博杰指出技术从发明到广泛应用极其缓慢:2016-2018 年 Azure 已用 RDMA 加速存储,如今很多基模公司加载上 T 模型仍需数分钟。2019 年他做昇腾 AKG 算子自动优化时看好多面体优化,至今鲜有算子编译器采用,取代手写算子的反而是 LLM。他认为 AI 擅长"小步快跑"式优化,但 writing、taste 和系统设计仍很糟糕,谈"取代"为时尚早。
旱的旱死涝的涝死. 19年我群里的矿佬挖矿都connectx-3开RDMA了.
来源:karminski-牙医· x.com