Benedict Evans 谈如何理解 token 定价

关于 token 价格，你只能确定两件事：我们正处于供应紧缺之中，而这种局面并不稳定。所有变量都在发挥作用，未来几年市场将被洗牌，从而达成新的均衡。眼下，人们对“通电时间”有大量狂热的分析，但最终的问题仍然是：基础模型是否拥有可持续的定价权、战略杠杆和价值捕获能力，还是会沦为低利润的商品化基础设施提供商。目前，我认为我们能看到的所有动态都指向后者。

显然，今天的情况是暂时的。在供应端，超过一万亿美元的数据中心资本支出即将落地（其后还有更多半导体资本支出），推理效率持续快速提升，新模型在 token 使用上的效率也高得多（或者低得多！）。在需求端，尽管市场自2022 年以来一直受产能约束，但今年上半年的紧缺是由真正意义上仅一个用例——软件开发——突然实现产品市场契合所驱动的，而这实际上是一个相当小的领域（想象一下，如果我们有一个拥有数亿 DAU 的消费级用例实现了产品市场契合——今天的基础设施无论什么价格都无法支撑）。我们不知道下一个规模化用例会是什么，也不知道那会在何时发生，更不知道它们的 token 需求会是什么。

再往上一层看，已被广泛报道的是，如今推理业务的毛利率为 40-50%：这包括相关服务器成本的折旧（或租用它们的成本），但我们并不真正了解资产寿命（五年？七年？），而且显然这不包括每年训练下一代模型数次的成本，而后者目前远大于收入。原则上，推理是边际成本，训练是固定成本，所以只要收入足够高，就能实现盈利，但我们不知道训练成本会如何变化。在桌子的另一边，过去几个月使用量的激增有多少具有 ROI（或者至少具有可以向 CFO 量化的 ROI），这一点尚不清楚，更不用说未来的任何用例了，因此也就不知道人们可能愿意为它们支付什么价格。

所以，所有变量都将在未来 12 个月内四处变动，并在未来三到五年内再次变动。我们如何判断这最终会稳定在哪里？供应、需求、价格、产能和资本支出将如何、在哪里重新回到均衡？

理论上，你可以自下而上地建模。你可以对我上面提到的每个变量做出一些假设，然后尝试建模：现在有多少芯片，台积电和其他半导体行业参与者何时可能交付多少性能如何的芯片，以及所有这些能以多快速度在数据中心上线、这些数据中心又能以多快速度获得电力。然后你可以考虑价格纪律，并对用例做出一些猜测。这会给你一个数字，但它会很像在 1998 年试图为宽带市场建立五年预测：电子表格会非常漂亮，你甚至可能接近今年的正确数字，但有太多未知变量，无法对更长期的市场结构做出有用的预测。

换句话说，我们可以说代币价格是供给与需求在卖方边际成本与买方 ROI 之间的某个水平上的函数，但我们实际上并不知道供给、需求、边际成本或 ROI 会是多少。

另一种方法是自上而下地看：这类事情通常会如何发展？构成要素是什么，它们又能走向何方？这场讨论的大部分都取决于这条曲线会如何变化。

第一，有多少人愿意付费站到曲线的右上角——站到前沿？在一个极端，已经有一些用例用一个小型、老旧、也许是开源的模型就能运行得很好，在本地或手机上“免费”运行；在另一个极端，会有一些用例从最新、最昂贵的前沿模型中获得更好的结果，消耗大量代币、花费大量金钱；而在这两者之间，还会有许多处于中间地带的用例。那么，有多少用例沿着成本曲线往上走多远能获得更好的结果，其中又有多少具备相应的 ROI，而有多少使用量是由更小、更便宜、足够好且更加商品化的模型来处理的？乐观的看法是，ROI 可能会随着更昂贵的前沿模型而上升，因为它们能带来更好的结果，但这究竟适用于哪些地方？

第二，前沿是否仍在显著推进？这显然是 AI 中最基础的科学问题：前沿还能持续变好多久，还需要越来越多的算力多久，而这一切能否以足够快的速度持续发生，从而使其领先于来自效率提升和容量增长的降价压力？曲线昂贵的那一端是否还会继续存在？

第三，前沿模型之间是否仍会有激烈竞争？这个领域是否会收缩到越来越少的前沿模型，也许还会出现网络效应？前沿模型是否会分化，不同模型在不同领域拥有明显更清晰的领先优势？那可能是通往可持续定价权的另一条路径。还是说，我们会继续维持在中个位数数量的公司，它们都在打造能力大体相当的前沿模型？目前，大家使用的科学方法大体相同，训练数据也大体相同，得到的结果也大体相同，而我们尚未发现某种网络效应或任何其他赢家通吃效应，能让某家公司拉开差距、保持领先，并以某种可持续的方式做到其他公司做不到的事。这会改变吗？

第四，那些高端用例所创造的价值，有多少被前沿模型本身所捕获？即便你确实需要底层那个庞大而昂贵的前沿模型，又有多少价值需要包裹在工具、流程、专有数据、市场推广、网络、支持，以及与传统软件公司相关的一切之中？那个模型能包办一切吗，还是说，无论模型多好，它仍然只是你用来打造实际产品的一块基础设施？在极端情况下，模型本身能否发明并制造出所有这些东西，而这是否会让它们按席位收费、按结果收费，或者干脆直接拿走利润？还是说，即便（或者说尤其是）最复杂、最高价值的用例，也需要置身于数百家能够挑选使用哪些模型的新公司之中？

这些都不是非此即彼的问题：它们都只是程度之别，而且很可能因用例不同而差异很大。但在一端，有两三个巨型大脑运行着一切的一半，并拥有巨大的定价权；而在另一端，LLM 看起来像数据库——会有数百万个，有些非常大，有些非常小，价值在于你在其上构建的东西——毕竟，每家 SaaS 公司都是一个“数据库包装器”。有一种未来是 Anthropic（或一家我们尚未听说过的公司）赢得一切并能自行设定条款，另一种未来是数十个路由器运行实时拍卖，将你的任务分配到数百个低利润的模型农场，而一家基准测试公司对每一个都收取费用。

我认为目前没有人能真正知道答案。我说了很多次“我们不知道”，这是非常刻意的。“S 曲线”概念的一部分是，在一项新技术出现的早期阶段，很明显它会变得巨大，但除此之外一切都不清楚——比如互联网的 1990 年代中期，以及移动的 2008 年或 2009 年。有些地方你可以持有观点——例如，我曾详细论证过，我认为聊天机器人是一种糟糕的界面，将难以在堆栈上层捕获价值——但我们应该假定存在我们还看不到、更不用说回答的重大问题，任何从我们能看到的十种可能结果中挑一个并说“就会是那一个！”的人，都只是在猜测。

与此同时，每一项重大新技术的早期阶段都存在结构性不确定性，但如今的不确定性有所不同，因为我们对这些模型为何如此有效缺乏良好的理论理解，因此我们不知道它们还能变得多好。1995 年，我们不知道互联网会如何演变，但我们知道地球上个人电脑不到 1 亿台（而且它们很贵），电信公司明年也不可能给每个人提供 FTTH；2010 年，我们不知道下一代 iPhone 会是什么样，但我们知道它不会有视网膜投影。我们知道物理极限，而在 LLM 上我们并不真正知道。下个月，一种新方法可能将推理计算需求削减 90%，或使需求翻倍，或两者兼有。

所有这些都让人们寻找可供识别的模式（事实上，有人观察到，所有关于 AI 的对话最终都会变成寻找隐喻）。与光纤作比较已变得很常见，光纤在互联网泡沫中出现了大规模过度建设，看起来有点像今天的基础设施建设。其狭隘的问题在于，光纤建设远远超前于需求，而 AI 计算建设远远落后于需求，不过如上所述，我们不知道未来的供需平衡会是什么样。但我认为更相关的反对意见是，光纤建设主要是固定成本（挖洞），而非边际成本（更多设备），而计算需求的增长意味着你需要购买更多计算。

这使得移动数据在此处成为一个更有成效的对比。移动网络对容量有边际成本，与AI类似，15年前其使用量激增，超出了容量，迫使运营商争相增加容量并重新平衡其定价。与此同时，销售比特表面上类似于销售令牌：这是一种不透明的边际成本度量，无法以任何透明或直观的方式映射到用例或价值上，并且需要被某种形式的捆绑所取代。但最重要的是，在过去20年里，蜂窝数据流量增长了几个数量级，这已经成为一个巨大的产业，年收入达1万亿美元，资本支出为2000亿美元，但股票却毫无起色，所有价值都被价值链上游的其他人获取了。当然，这是AI的核心问题之一：这会不会变成低利润的大宗商品基础设施，而所有价值都被价值链上游的其他人获取？

半导体制造也与AI有相似之处，因为与蜂窝网络不同，它有着与我们在基础模型中看到的相同的不断升级的成本和复杂性。洛克定律指出，尖端晶圆厂的成本每四年翻一番：随着时间的推移，半导体的前沿变得如此艰难和昂贵，以至于参与者数量从几十家减少到少数几家，现在实际上只有一家，台积电。这是AI的另一个核心问题：即使没有网络效应，这会不会变得如此艰难和昂贵，以至于只有少数几家公司能够做到？同样，许多半导体的用途也处于我刚才讨论的AI价格/性能曲线的更靠后位置。然而，即使在这里，尽管台积电在前沿领域拥有事实上的垄断地位，并且利润率不错，但它实际上并未从更广泛的科技经济中获取很大份额的价值：去年的净利润为530亿美元，不到苹果一家公司的一半。

这里还可以做许多其他比较：在过去六个月里，萨姆·奥尔特曼将OpenAI既比作Windows——一种基于网络效应的高利润、轻资产垄断，又比作电力公用事业——它们是自然垄断，但也是低利润的受监管公用事业，销售纯粹的大宗商品。还可以指向云（三个领先玩家，利润率良好，定位清晰，但同样价值获取有限）。但这些都没有预测价值：类比没有预测价值。你不能通过论证某事物与移动有多相似来证明它是否会有与移动相同的结果：这是15年前许多非常聪明的科技人士犯的错误，他们声称Android会击败iOS，因为Android是“开放的”，而“开放的”Wintel在1990年代击败了“封闭的”Mac（这也是末日论者声称AI“像”核武器时犯的错误）。一切都是不同的：比特、令牌和晶体管是不同的，这些例子彼此之间也是不同的，AI也将是不同的。

然而，这些例子确实以经验告诉我们，某样东西可以非常重要、非常昂贵、改变世界，并且充满非常精密的科学与工程，却仍然拥有多种可能的结果。这里并不存在一条必然的路径：你可以在高利润率和低利润率下都实现价格均衡，可以在有市场集中和没有市场集中的情况下都实现价格均衡，而你无法通过谈论 AGI 并说“你不懂指数增长！”来把这一点搪塞过去。

然而，如果说我上面所写的一切中有一条线索是我们还有多少未知，那么另一条线索就是：要让基础模型拥有市场主导地位、战略杠杆、价值捕获、赢家通吃效应，或者除了成为商品化基础设施之外的任何其他结果，每一条路径都需要某些东西发生变化。

也许前沿模型的竞争会减弱——然而在过去六个月里，马克·扎克伯格和埃隆·马斯克从零重新跳回了排行榜。也许网络效应会出现。也许聊天机器人可以成长为产品，而不需要被包裹在软件之中。也许某个实验室会开始超越所有其他实验室，凭借纯粹的产品活力一骑绝尘——微软、谷歌、Facebook 和苹果在拥有赢家通吃的努力之前，都必须靠执行力杀入制胜位置。也许还会发生别的什么。

尤其是，我们不是有一个，而是有两个潜在的解围之神——特朗普和中国。据报道，中国正在考虑监管开源，一些与特朗普关系密切的人也提出了这一点（不过自从 Meta 放弃 Llama 之后，美国就没有领先的开源模型了），而出口管制可能会扩大并变得系统化。许多人将 Anthropic 以及（有时是）OpenAI 对监管的呼吁视为监管俘获的幌子，但无论如何，我们不能假定这将继续是一个完全自由的市场。

即便如此，这又把我带回了同一个观点：当前的市场动态指向这样一个未来——随着当今的供应紧张缓解，前沿模型将走向成为商品化基础设施，所有价值都建立在它之上；而要出现不同的结果，就需要发生某些我们尚未看到的事情。