按该来源的展示范围,站内仅提供摘要。
前往原站阅读(在新标签页打开)SemiAnalysis 发布 TPUv7 Ironwood 第三方推理评测,每美元性能最高比 B200/B300 高 50%
AI 导读
SemiAnalysis 在 InferenceX 上发布 TPUv7 Ironwood 的首批第三方推理结果,FP8 聚合服务下 Ironwood 每美元性能最高比 B200/B300 高 50%,在 20 tok/s/user 交互速度下每百万 token 成本约 0.181 美元,低于 B200 的 0.222 和 B300 的 0.276 美元。
SemiAnalysis 长文 RSS(RSS)
65
AI 编辑部评分,满分 100SemiAnalysis 发布 TPUv7 Ironwood 第三方推理评测,每美元性能最高比 B200/B300 高 50%
SemiAnalysis 在 InferenceX 上发布 TPUv7 Ironwood 的首批第三方推理结果,FP8 聚合服务下 Ironwood 每美元性能最高比 B200/B300 高 50%,在 20 tok/s/user 交互速度下每百万 token 成本约 0.181 美元,低于 B200 的 0.222 和 B300 的 0.276 美元。
来源:SemiAnalysis 长文 RSS(RSS)· newsletter.semianalysis.com