token 用量涨 20 倍,把毛利率干成负数
先讲个反直觉的事。
一家估值 156 亿美元、年收入 4 亿美元的 AI 公司,最危险的时候,恰恰是它生意最好的时候。
这不是段子。彭博社 9 月 22 日报道了一家公司:Harvey,做法律 AI 的,客户是律所和企业法务,全球 3000 多家。
它 2026 年初的毛利率大概是 50%。到 6 月,变成了 -50%。
一、毛利率 -50%,到底是个什么概念
先把数摆清楚。
毛利率 -50% 的意思是:每收进来 1 块钱,要花 1.5 块钱才能把这单交付出去。
按 Harvey 现在超过 4 亿美元的年经常性收入算(据公开报道),这意味着它一年的交付成本接近 6 亿,光在毛利上就要亏掉大概 2 亿。
一家 156 亿美元估值的公司,卖得越多亏得越多。
这不是经营不善,这是商业模式的结构问题。问题出在今年 3 月。
Harvey 在 3 月更新了一版 AI Agent,客户用得比之前猛得多。公司联合创始人兼总裁 Gabe Pereyra 承认,今年公司的 token 用量涨了 20 倍。
token 是 AI 模型的计费单位——模型每读一段、每写一段,都按量收钱。
用量涨 20 倍,听起来是好事。但对 Harvey 来说不是:它卖的是订阅和席位,客户用得越多,它这边的账单越高,而客户那边的价格一分没动。
成本涨了 20 倍,收入没涨。这就是毛利率从 +50% 掉到 -50% 的全部原因。

二、你在替模型厂打工,而且改不了价
把这事抽象一下,其实是个很老的商业结构。
想象你开一家外卖店,平台抽成 30%。你销量翻倍,抽成也翻倍,而你没资格因为卖得多就跟平台谈价。你的利润上限,被平台的价目表锁死了。
AI 应用层现在就是这个处境。
Harvey 这类公司自己不做模型,而是调用 OpenAI、Anthropic 的 API,按 token 付钱。它们手里有行业 know-how、有客户、有工作流,看着像是在做自己的生意;但成本的那一头,握在别人手里。
有位投资人把话说得很直。硅谷基金 Basis Set 的创始人 Lan Xuezhao 说:你不去优化成本、不去微调自己的模型,按定义你就是低效的(据公开报道)。
对程序员来说,这里有个特别容易忽略的点:你的毛利上限,是由供应商的价目表决定的。
你在产品里加再多功能、把 UX 打磨得再好,只要成本那一端是别人按量计价,规模一大,利润就被吃掉。

三、Harvey 的解法:不换更强的,换能下载的
Harvey 的选择挺有意思。
它没有换一家更便宜的大模型,而是把底层换成"能下载到自己机器上跑"的开源权重模型。
8 月 20 日前后,它发布了自己的第一个自训练模型 Tenet,底座是月之暗面的 Kimi K3——一个 7 月开放了权重的模型,参数量约 2.8 万亿(据公开报道)。
Harvey 的说法是,这个模型的表现接近 Anthropic 最好的模型,成本却只是零头。之后它的毛利率转回了正数(消息人士对彭博社的说法)。
注意,这不等于跟闭源模型翻脸。Harvey 明确表示,最难的那批任务仍会用 OpenAI 和 Anthropic 的模型。它做的是分层:日常量大、难度中等的活交给自己的模型,最难啃的少数任务留给前沿闭源模型。
这里有个特别值得记住的换算:
从"按 token 付钱"改成"自己买算力",本质上是从打车改成自己买车。
打车按里程付费,跑得越多花得越多,但你不开了就不花钱。自己买车是先投一笔,然后跑得越多越划算——可你要是跑得少,车照样折旧,反而更亏。
所以自建模型不是万能药,它只在"用量足够大而且稳定"的时候才划算。

四、这不是一家公司的选择
Harvey 不是个例,这一波人都在算同一笔账。
医疗方向的 Abridge,在基于英伟达的开源权重做临床专用模型;客服方向的 Decagon,现在 80% 的查询走自己的模型;金融科技公司 Ramp(6 月刚融了 7.5 亿美元)和 Rogo 都在评估自训模型。
以上均据公开报道。
有个数字值得留意:据报道,中国开源权重模型在某些任务上的成本,比 OpenAI、Anthropic 的旗舰模型低 60% 到 90%。
反方声音也得听。Menlo Ventures 的合伙人 Matt Kraning 就说,多数情况下自建模型"是种角色扮演"——投入大、人才难找、数据还得是自己的,很多公司算下来并不划算。当流量小的时候,用闭源 API 反而更便宜。
这两边都对。判断标准只有一个:你的用量,够不够撑起自建那笔固定投入。
五、这事对普通程序员意味着什么
三个判断,你可以直接拿去用。
第一,模型选型从"选最强"变成"选最合适的那一步"。
以前大家默认用最强的模型,现在更像在做路由:这一步用便宜的,那一步用贵的。Grok 4.7 这两天发布,主打"半价",但评测里也有人提醒——它每个任务消耗的 token 偏多,单价便宜不等于总账便宜。
第二,别再看"每百万 token 多少钱",要看"完成一个任务花多少钱"。
这是两回事。单价低但返工多的模型,总成本可能更高。行业里现在越来越多人在算这个指标,它正在变成默认的评估口径。
第三,会算单位经济的人,接下来会更值钱。
AI 应用的成本结构,已经不是"买 API"那么简单。什么时候该路由、什么时候该自训、哪些任务留给定价最贵的模型——这些判断,需要有人真的懂计算和推理成本。
这个能力,现在还稀缺。
最后
前沿模型不会消失,Harvey 最难的任务还得靠它们。
但"默认用最强、闭源优先"的时代,正在被一张账单结束。
行业里有句老话改一下正好用:你的利润率,就是别人的机会。
关注我,接着聊 AI 编程工具里那些没人明说的成本和坑。
