Token账单迷雾:当每百万Token多少钱变成「比价陷阱」
一家传统企业的财务总监第一次拿到Token账单时,通常只有两个感受:一是怎么这么贵,二是怎么算出来的。 第一个问题可以通过预算来回答;第二个问题,则要复杂得多,账单上的算法,不同厂商有不同的版本,但剥开来看,核心逻辑都长得很像——不过是“单价乘以用量”的某种变体。 变化就发生在这个乘法里。 2024年初,中国日均Token调用量是1000亿。到2026年3月,这个数字突破了140万亿——两年,超过1000倍。 Token不再只是工程师终端里一行灰色的日志,它正在印入预算表、损益表和季度财报。AI支出也从"研发预算"变成了"运营成本",而且后者还在以季度为单位陡增。欢迎添加微信EATINGNTAE交流国内Token使用现状。 Token的出现,第一次让模型生成能力被压缩成一个可计量、可交易、可结算的单位。 AI产业的商业模式也正在随之改变。过去,企业采购的是GPU、算力卡,后来购买的是GPU小时、API调用;如今,越来越多厂商开始直接按Token计费、按Token结算。 你不再需要知道底层跑的是哪款GPU、花了多少机时,只需要关心最终产出了多少Token。这像极了电力时代的"度"——把复杂的发电、输电和配电过程,压缩成一个所有人都能理解的计量单位。 但计量单位统一之后,一个隐秘的裂缝也随之裂开:单位统一了,算法却没有统一。 表面上看,账单只有两个变量:价格和用量。但这两个数字都不是常量,模型怎么定价、缓存命中有没有折扣、长思考模式会不会额外消耗Token,甚至数据中心建在哪个省份,都在左右最终的数字。 看似清晰的一道乘法,实则是一张谁都读不透的网。 为什么同样是Token,价格差距却越来越大? 大模型API的价格战,让Token的单价看起来前所未有的透明,但恰恰是这种“一分钱一分货”的明码标价,将真正的成本结构藏进了黑箱。同一个数字背后,可能是技术效率的极致兑现,也可能是资本补贴的饮鸩止渴。 从事芯片行业的吴昊把这种成本的不可比,归结为三个互相纠缠的变量:设备成本、运营成本、合同周期。 设备端的差异,从采购那一刻就已经写进了初始成本——GPU的型号、采购量大小、是否搭售软件、配没配外部存储方案,每一项都会以不同方式影响最初的成本分摊。 吴昊描述,前一段时间行业的主流趋势是,大家都在拼算力峰值,比谁的卡算力值最高。 厂商在宣传时强调单卡有多强,实际销售时顶尖卡却几乎不单独租赁,都是以集群为单位出货。一台B300整机36P算力,一个集群至少32台,加起来就是千P级别。“全国能租得起这种集群的客户,可能也就几十个,大量中小客户根本用不起来。”吴昊指出。 而这些无法被充分利用的顶级算力,最终会以某种方式,摊进每一个Token的定价里。 运营端的变量同样复杂,而且拉开了一个更隐蔽的差距。 电价是其中最直观的一条线。吴昊提到,西北部分地区电价能做到两三毛,靠的是新能源补贴
说明:本站展示中文整理摘要,便于快速判断价值;完整内容和版权归原站所有。