返回博客

一次 Jev 评估到底花多少钱:实测

我们按应用允许的每种 state 规模与问题数量发起了 11 次真实 Jev 调用,拟合出 token 模型并实测成本:每次评估 $0.000012 到 $0.000377。

更新于 JevStationJevStation
一次 Jev 评估到底花多少钱:实测

一次 Jev 评估的成本在 $0.000012 到 $0.000377 之间,取决于你发送多少 state、提多少个问题。最便宜的一端是一句话工单配一个 Noul 问题;最贵的一端是 JevStation 允许的最大请求——24,000 字符的 state 加十二个写满标准的问题。

这是 31 倍的差距,而它几乎不来自你可能猜到的那个部分。我们选择实测而不是估算,因为点数分档必须在成本天花板上安全,而不是在平均值上安全。

为什么实测而不是估算

TypeSafe 只公布一个数字:输入 $0.042 / 百万 token,输出免费。这足够给 token 定价,但不够给一次评估定价。真正决定成本的是两个问题,而官方页面一个都没有回答:

  1. 一次请求实际用掉多少 token? state 和问题集是两种不同的文本——一个是正文,一个是 JSON——它们的 token 化速率并不相同。
  2. 每次请求是否有固定开销? 如果每次调用都带一笔固定开销,那么小评估的成本会被它主导,而纯按 token 计价会低估这部分。

于是我们向线上 API 发了 11 次真实请求,覆盖 state 从 1 字符到 24,000 字符、问题数从 1 到 12,并记录 Jev 返回的 token 用量。

token 模型

输入 token 拟合出一条带截距的直线:

input_tokens ≈ 260 + 0.163 × state字符数 + 0.20 × 问题集字符数

换算成速率就是:每次请求 260 token 的固定开销,state 约 6 个字符 1 token,问题集约 5 个字符 1 token。

组成部分速率原因
固定开销约 260 token(约 $0.000011)TypeSafe 自身的请求封装,每次调用都要付
state约 6 字符 / token普通英文正文的水平
questions约 5 字符 / tokenJSON 标点密集:键名、type、引号与逗号都要计费

两个值得记住的发现:

  • 固定开销占掉了最小调用的一半以上。 260 token 折合 $0.0000109,而我们能构造出的最小请求成本是 $0.000012。在区间底部,你付的主要是那个封装,而不是自己的内容。
  • 问题集每个字符比它所评判的 state 更贵——每字符 0.20 token 对 0.163 token,大约贵 23%。JSON 结构不是免费的。十二个写满标准的问题序列化后是 24,143 字符,在还没算上你的 state 之前就消耗掉约 4,800 token。

拟合值与实测值对照

模型是拟合出来的,所以这里把它和拟合所用到的调用放在一起。中间几行才是关键——那才是真实用量的形状。

调用state 字符问题集字符实测 token拟合值成本
1 个 Noul 问题,1 字符 state190278278$0.000012
默认 3 问题,真实 playground 调用58646484399$0.000020
默认 3 问题,2,000 字符 state2,000646773715$0.000032
12 个满配问题,100 字符 state10024,1435,0945,105$0.000214
应用上限24,00024,1438,9819,001$0.000377

有一处偏差值得说明而不是掩盖:拟合会低估小问题集约 10–18%。 默认问题集的标准是用紧凑的结构化字符串写的,同样字符数下比正文更难 token 化,所以线性系数在这一端偏低。这也正是下面所有数字都取自实测列、绝不取自拟合列的原因。

各种形态的成本

场景输入 token成本
最小调用(1 个问题,一句话)278$0.000012
试验台快速检查(3 问题,一段话)484$0.000020
试验台真实文档(3 问题,5k 字符)~1,200$0.000050
试验台长输入(3 问题,24k 字符)~4,300$0.000180
API 精简(1 问题,1k state)441$0.000019
API 高配(12 问题,8k state)6,378$0.000268
绝对上限(12 问题 + 24k state)8,981$0.000377

需要记住的锚点:1,000 次评估在典型形态下约 2 美分;如果每一次都是最大请求,则是 38 美分。

这如何映射到点数

JevStation 按点数计费而不是按 token,因为调用方不应该为了知道一次运行花多少而去建模 token 化。分档直接来自上面那两个阈值:

  • 标准评估每次 1 点——state 不超过 8,000 字符且问题不超过 5 个。
  • 大请求每次 3 点——state 不超过 24,000 字符且问题不超过 12 个。
  • 失败的评估消耗 0 点。 点数在答案返回时扣除,若服务商报错会自动退回。

由于天花板取自实测而非拟合,3 点这一档对应用允许的每一个请求都是安全的。

复现

这套测量是仓库里的脚本,不是敲进文章里的表格:

# 8 次校准调用 —— 拟合 token 模型
pnpm verify:jev-cost

# 3 次上限调用 —— 测出成本天花板
pnpm verify:jev-worst

# 由拟合模型重算成本表
pnpm pricing:model

合计 11 次调用,约 $0.0004 的真实 API 费用。

这套测量的边界

明确写出来,因为缺少边界说明的基准测试就是营销:

  • 单一服务商、单一模型版本。 所有调用都发往 jev-latest,它当时解析到同一个构建。别名会移动。如果 token 化方式或请求封装发生变化,这些系数就过期了。
  • 11 次调用。 这够拟合两个变量和一个截距,不够刻画罕见输入。非英文 state、大量 Unicode 或特殊 JSON 形状的 token 化可能不同——我们没有测。
  • 服务商价格是输入,不是常量。 每百万 $0.042 和输出免费是 TypeSafe 公布的条款,可能调整;token 数量会存活下来,美元数字不会。
  • 这里只有模型成本。 它是一次评估的运行成本,不说明它应该向你收多少钱——那是产品与定价问题,不是测量问题。

如果你用不同的构建重跑这些脚本得到了不同的系数,那是个有用的结果,我们想听听。

想知道你自己的输入要花多少,把它贴进试验台就行——前 200 次评估免费,价格页列出了每个点数包折合每 1,000 次评估的价格。