在 @Cerebras Supernova 上与 @milksandmatcha 坐下来聊了聊芯片。 每个人都在下不同的推理赌注。 有人想要便宜的 token，有人想要速度。 NVIDIA 在吞吐量上难以被击败，但在速度上还有巨大空间。 Cerebras 是个话痨。这些晶圆真的说话很快。
SemiAnalysis@SemiAnalysis_在 @Cerebras Supernova 上与 @milksandmatcha 坐下来聊了聊芯片。 每个人都在下不同的推理赌注。 有人想要便宜的 token，有人想要速度。 NVIDIA 在吞吐量上难以被击败，但在速度上还有巨大空间。 Cerebras 是个话痨。这些晶圆真的说话很快。
Sat down with @milksandmatcha at @Cerebras Supernova to talk chips
Everyone is making different inference bets
Some want cheap tokens Some want speed
NVIDIA is hard to beat on throughput, but there's huge room on speed
Cerebras is a yapper. These wafers talk really fast.
来源：SemiAnalysis· x.com