老魏 · 折腾铺
民宿站监控台双色球点哪抠哪老照片修复Murdoku科学探险家
折腾铺/单篇
单篇2026-09-22老魏

token 用量涨 20 倍,把毛利率干成负数

估值 156 亿美元的 AI 法律公司 Harvey,客户用得越猛亏得越狠:毛利率从 50% 掉到 -50%。它的解法不是换更强的模型,是把模型换成能下载的开源权重。这一课,所有做
token 用量涨 20 倍,把毛利率干成负数

token 用量涨 20 倍,把毛利率干成负数

先讲个反直觉的事。

一家估值 156 亿美元、年收入 4 亿美元的 AI 公司,最危险的时候,恰恰是它生意最好的时候。

这不是段子。彭博社 9 月 22 日报道了一家公司:Harvey,做法律 AI 的,客户是律所和企业法务,全球 3000 多家。

它 2026 年初的毛利率大概是 50%。到 6 月,变成了 -50%。

一、毛利率 -50%,到底是个什么概念

先把数摆清楚。

毛利率 -50% 的意思是:每收进来 1 块钱,要花 1.5 块钱才能把这单交付出去。

按 Harvey 现在超过 4 亿美元的年经常性收入算(据公开报道),这意味着它一年的交付成本接近 6 亿,光在毛利上就要亏掉大概 2 亿。

一家 156 亿美元估值的公司,卖得越多亏得越多。

这不是经营不善,这是商业模式的结构问题。问题出在今年 3 月。

Harvey 在 3 月更新了一版 AI Agent,客户用得比之前猛得多。公司联合创始人兼总裁 Gabe Pereyra 承认,今年公司的 token 用量涨了 20 倍。

token 是 AI 模型的计费单位——模型每读一段、每写一段,都按量收钱。

用量涨 20 倍,听起来是好事。但对 Harvey 来说不是:它卖的是订阅和席位,客户用得越多,它这边的账单越高,而客户那边的价格一分没动。

成本涨了 20 倍,收入没涨。这就是毛利率从 +50% 掉到 -50% 的全部原因。

一张展示毛利率数字从 50% 垂直坠落到 -50% 的极简插画

二、你在替模型厂打工,而且改不了价

把这事抽象一下,其实是个很老的商业结构。

想象你开一家外卖店,平台抽成 30%。你销量翻倍,抽成也翻倍,而你没资格因为卖得多就跟平台谈价。你的利润上限,被平台的价目表锁死了。

AI 应用层现在就是这个处境。

Harvey 这类公司自己不做模型,而是调用 OpenAI、Anthropic 的 API,按 token 付钱。它们手里有行业 know-how、有客户、有工作流,看着像是在做自己的生意;但成本的那一头,握在别人手里。

有位投资人把话说得很直。硅谷基金 Basis Set 的创始人 Lan Xuezhao 说:你不去优化成本、不去微调自己的模型,按定义你就是低效的(据公开报道)。

对程序员来说,这里有个特别容易忽略的点:你的毛利上限,是由供应商的价目表决定的。

你在产品里加再多功能、把 UX 打磨得再好,只要成本那一端是别人按量计价,规模一大,利润就被吃掉。

一条分岔路,一条路上布满需要不断付费的收费站,另一条路一次投入后自由通行

三、Harvey 的解法:不换更强的,换能下载的

Harvey 的选择挺有意思。

它没有换一家更便宜的大模型,而是把底层换成"能下载到自己机器上跑"的开源权重模型。

8 月 20 日前后,它发布了自己的第一个自训练模型 Tenet,底座是月之暗面的 Kimi K3——一个 7 月开放了权重的模型,参数量约 2.8 万亿(据公开报道)。

Harvey 的说法是,这个模型的表现接近 Anthropic 最好的模型,成本却只是零头。之后它的毛利率转回了正数(消息人士对彭博社的说法)。

注意,这不等于跟闭源模型翻脸。Harvey 明确表示,最难的那批任务仍会用 OpenAI 和 Anthropic 的模型。它做的是分层:日常量大、难度中等的活交给自己的模型,最难啃的少数任务留给前沿闭源模型。

这里有个特别值得记住的换算:

从"按 token 付钱"改成"自己买算力",本质上是从打车改成自己买车。

打车按里程付费,跑得越多花得越多,但你不开了就不花钱。自己买车是先投一笔,然后跑得越多越划算——可你要是跑得少,车照样折旧,反而更亏。

所以自建模型不是万能药,它只在"用量足够大而且稳定"的时候才划算。

一座天平,一端是按用量不断累加的费用,另一端是固定的算力投入

四、这不是一家公司的选择

Harvey 不是个例,这一波人都在算同一笔账。

医疗方向的 Abridge,在基于英伟达的开源权重做临床专用模型;客服方向的 Decagon,现在 80% 的查询走自己的模型;金融科技公司 Ramp(6 月刚融了 7.5 亿美元)和 Rogo 都在评估自训模型。

以上均据公开报道。

有个数字值得留意:据报道,中国开源权重模型在某些任务上的成本,比 OpenAI、Anthropic 的旗舰模型低 60% 到 90%。

反方声音也得听。Menlo Ventures 的合伙人 Matt Kraning 就说,多数情况下自建模型"是种角色扮演"——投入大、人才难找、数据还得是自己的,很多公司算下来并不划算。当流量小的时候,用闭源 API 反而更便宜。

这两边都对。判断标准只有一个:你的用量,够不够撑起自建那笔固定投入。

五、这事对普通程序员意味着什么

三个判断,你可以直接拿去用。

第一,模型选型从"选最强"变成"选最合适的那一步"。

以前大家默认用最强的模型,现在更像在做路由:这一步用便宜的,那一步用贵的。Grok 4.7 这两天发布,主打"半价",但评测里也有人提醒——它每个任务消耗的 token 偏多,单价便宜不等于总账便宜。

第二,别再看"每百万 token 多少钱",要看"完成一个任务花多少钱"。

这是两回事。单价低但返工多的模型,总成本可能更高。行业里现在越来越多人在算这个指标,它正在变成默认的评估口径。

第三,会算单位经济的人,接下来会更值钱。

AI 应用的成本结构,已经不是"买 API"那么简单。什么时候该路由、什么时候该自训、哪些任务留给定价最贵的模型——这些判断,需要有人真的懂计算和推理成本。

这个能力,现在还稀缺。

最后

前沿模型不会消失,Harvey 最难的任务还得靠它们。

但"默认用最强、闭源优先"的时代,正在被一张账单结束。

行业里有句老话改一下正好用:你的利润率,就是别人的机会。

关注我,接着聊 AI 编程工具里那些没人明说的成本和坑。