Altman 称本地推理浪费 DRAM 与算力
热点事件持续更新
Altman 称本地推理浪费 DRAM 与算力
1 篇报道1 个报道来源1 小时前更新
先了解这件事
AI 综述
Sam Altman 在 X 上评论本地推理：从全球资源分配看，让每个人把有限 DRAM 供应中的一大批放在自己电脑里、却只有 5% 的时间在用，这相当糟糕。 他称按每 token 算数据中心轻松胜出，batch size 为 1 的本地模型按任何利用率指标看都是浪费；但他也承认，本地推理是整个技术栈中唯一没人能对你弃用的部分。
AI 根据报道生成 · 58 分钟前更新
最新进展10月30日 07:24
Sam Altman 谈本地推理的浪费报道时间线
沿着报道，了解事件的不同侧面。
10月30日
- Rohan PaulSam Altman 谈本地推理的浪费
Sam Altman 谈本地推理。 “从全球资源分配的角度看，让每个人、让世界上有限 DRAM 供应中的一大批都放在自己的电脑里、却只有 5% 的时间在用，这相当糟糕” 按每 token 算，数据中心轻松胜出。batch size 为 1 的本地模型按任何利用率指标看都是浪费，但它也是整个技术栈中唯一没人能对你弃用的部分。https://x.com/morqon/status/2115838856524120128/video/1
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。