karminski-牙医 · @karminski3 · X·2026-09-16 16:01·2小时前
AI 导读

李博杰指出技术从发明到广泛应用极其缓慢:2016-2018 年 Azure 已用 RDMA 加速存储,如今很多基模公司加载上 T 模型仍需数分钟。2019 年他做昇腾 AKG 算子自动优化时看好多面体优化,至今鲜有算子编译器采用,取代手写算子的反而是 LLM。他认为 AI 擅长"小步快跑"式优化,但 writing、taste 和系统设计仍很糟糕,谈"取代"为时尚早。

karminski-牙医@karminski3
48AI 编辑部评分,满分 100
2026-09-16 16:01· 2小时前
AI 导读

李博杰指出技术从发明到广泛应用极其缓慢:2016-2018 年 Azure 已用 RDMA 加速存储,如今很多基模公司加载上 T 模型仍需数分钟。2019 年他做昇腾 AKG 算子自动优化时看好多面体优化,至今鲜有算子编译器采用,取代手写算子的反而是 LLM。他认为 AI 擅长"小步快跑"式优化,但 writing、taste 和系统设计仍很糟糕,谈"取代"为时尚早。

旱的旱死涝的涝死. 19年我群里的矿佬挖矿都connectx-3开RDMA了.

Bojie Li顶尖科学家和工程师,包括我自己,经常忽略的一点是,技术从被发明到广泛应用是非常缓慢的(参考:跨越鸿沟)。几个例子: 1. 我 2016-2018 年在微软实习的时候 Azure 就全面使用了基于 RDMA 和智能网卡加速的存储。2021 年我在华为的时候,线下的企业存储也用上了 RDMA。没想到几年之后,很多基模公司的...

来源:karminski-牙医· x.com