当Token成为一门生意，企业该算算AI这笔账了 - 轮盘红黑

衡量每个Token的实际价值，是AI实现落地的关键节点

作者：罗镇昊

编辑：刘俊宏

近两年，企业中最常听到的说法是“我们要引入AI”，但AI具体解决什么问题、应用成效如何，很多人缺乏清晰认知。大量企业选择“先部署再评估”，直到某一天，一份高额Token账单突然出现，才发现这笔投入根本无法核算。

不过，也有企业把账目算得很明确：一家大型连锁超市利用AI处理供应商合同谈判，成本下降了3%，投资回报率达到4倍，付款周期也延长了35天……

对企业应用而言，如何精准核算AI成本，正变得前所未有的关键。

过去两年，AI行业最直观的变化是模型规模扩大、算力增强，但进入智能体和企业级应用阶段后，企业面临一个更实际的问题：投入的算力和Token，究竟换回了什么？

这正是“Token经济学”进入产业视野的原因。

根据国家数据局披露的数据：2024年初，中国日均Token调用量为1000亿；到2025年底，这一数字跃升至100万亿；2026年3月，已突破140万亿，两年内增长超过千倍。这组数据背后反映了AI使用模式的转变。过去企业习惯统计买了多少张GPU、建了多少数据中心，现在则要核算一笔AI投入完成了多少任务、节省了多少时间、创造了多少收入。

当AI从“生成内容”转向“持续执行任务”，Token也正从技术指标演变为经营指标。

过去，Token主要是模型调用的计量单位，现在，随着智能体进行多轮推理、调用工具、拉取上下文，甚至多个智能体长时间协作，对Token的需求变得更加多样化。

在NVIDIA中国区工程和解决方案副总裁赖俊杰博士看来，一个智能体任务可能涉及50到500次连续的模型调用，多智能体协作会进一步放大Token消耗。这意味着，企业在AI上的账目，需要重新计算。

因此，真正值得关注的不仅是Token的价格是否低廉，而是Token的价值如何定义、需求如何预测、供给如何提升效率，以及最终如何转化为业务回报。

NVIDIA将其概括为Token经济学的四个支柱：价值、需求、供给和变现。

从这个角度看，Token经济学真正探讨的是，AI产业从技术投入转向生产力兑现后，一套全新的经营逻辑。

如果说上一阶段企业讨论AI的核心问题是投入多少算力，那么这一阶段的核心问题正变成：这些算力生产的Token，能否形成可持续衡量的业务价值。

围绕这一问题，光锥智能创始人王一粟与NVIDIA中国区工程和解决方案副总裁赖俊杰博士进行了一场关于“Token经济学”的播客对话。

NVIDIA站在AI基础设施一侧，讨论模型、GPU、网络、推理优化和Serving框架如何共同决定Token的单位成本与交付效率。而光锥智能作为产业观察者，从企业应用角度出发，追问AI是否真正进入真实业务，以及如何将Token消耗、流程效率和最终经营结果放在同一张表上。

以下为对话实录，光锥智能进行了不改变原意的编辑：

问：请两位结合自己的实际经验，谈谈如何更经济、更有效率地使用Token？

赖博：在NVIDIA内部，我们鼓励员工探索如何将AI融入日常工作流程，让AI成为提升个人效率的助手。我们的CEO黄仁勋先生也提到，未来每一位员工都会拥有自己的AI助手。我们内部所有团队，包括工程、产品、法务、市场、财务等，都在不断探索如何把AI融入具体工作流程。从这个角度看，人与AI的协作正在成为新的工作方式。

从我个人的使用体验来说，使用Token的关键不是单纯追求减少消耗，而是找到AI能真正放大个人能力的场景，让每一次AI交互产生更高价值。例如在信息整理、资料分析、问题拆解或其他重复性高的任务中，让AI参与更多环节，可以帮助我们减少重复性工作，从而有更多时间投入到判断和创造性的部分。

王一粟：我们现在已经离不开AI了。作为内容创作者，我们的主要花费在深度内容研究和视频制作上，我个人也尝试过一些AI Coding的小软件。具体来说，日常写作时的资料查询、深度研究用得最多，视频团队在素材生成上也开始用得越来越多。花费方面，每个人每月大约几百块钱，国外一些AI软件的会员、国内主流的优质AI会员，我们都在使用。

问：同样100万Token，调用不同模型、应用于不同任务，最终产生的价值可能完全不同。赖博能不能先讲讲，Token到底是什么？

赖博：Token是AI模型处理和生成信息的基本单位，也可以说是AI工厂产出的智能的最小单位，是衡量AI工作负载的重要指标。但Token本身并不等同于价值。

我们可以用一个简单的公式来理解：每单位Token的成本，等于数据中心每小时的综合运营成本，除以该数据中心每小时实时交付的Token数量。这里的成本包含很多方面，包括GPU、CPU、网络、存储、供电等。很多企业在评估AI基础设施投资时，往往容易只盯着其中某一项成本，比如GPU的价格。但真正决定Token成本的往往是整体效率，同样的投入到底能产生多少可用的Token。

所以从Token经济学的角度，我们需要同时关注数据中心的整体拥有成本和端到端产出效率，把评估标准从投入指标转向产出指标。

问：也就是说，Token的价值不是单一的，而是与它背后的基础设施、模型能力、应用场景以及最终的业务结果相关。那么影响Token价值的关键因素具体有哪些？

赖博：判断一个Token有没有价值，可以从两个核心维度来看。

第一个维度是智能含量。同样100万Token，由具备长上下文能力的前沿推理模型生成，和由轻量级模型生成，背后承载的理解能力、推理能力和上下文信息完全不同，前者的智能密度更高。

第二个维度是交互性，也就是Token到达用户的速度。对于编程助手、高频对话等场景，接近实时到达的Token才有价值；而批量处理文档这类任务，对Token延迟就不那么敏感。

但这两个维度都要落到一个前提上：价值是相对于用例的。一个针对特定场景后训练的小模型，可能只用几分之一的成本，就能达到甚至超过大模型的效果。多付的智能溢价，只有在用得上的时候才值得付。

所以企业在实际评估时可以问自己几个问题：这个任务需要多强的智能？多快的响应？结果错误的代价有多高？比如在医疗、金融等场景，准确性和可靠性就是硬指标。

王一粟：Token本身更像一种基础投入，最终能产生多大价值，取决于它被应用在哪些任务中，以及企业如何将它融入业务流程。据我观察，AI的场景大致可以分为两类。

一类是横向场景，即跨行业都存在的通用需求，比如企业知识助手、客服Agent、办公助手、代码助手等。这类应用覆盖面比较广，价值更多体现在帮员工提升效率、减少重复性工作上。

另一类是垂类行业场景，即结合特定行业知识和业务流程的应用，比如金融领域的投研分析、医疗领域的辅助诊断、制造领域的设备运维等。这类场景通常需要AI理解更专业的数据流程和业务逻辑。这两种场景下，Token都可以直接产生经济价值。

问：什么是Token经济学？为什么它会成为今天企业讨论AI时越来越重要的框架？

赖博：从NVIDIA的视角看，Token经济学指的是Token生成和使用背后的经济学。随着数据中心从存储和处理数据的场所，演变成专门生产智能的AI工厂，Token就是AI工厂产出的产品单元。

Token经济学要回答的不只是“一个Token值多少钱”，而是四件事：第一，Token如何被估值，即它承载的智能和交互体验值多少；第二，如何被消费，即谁在用、用多少、在什么场景用；第三，如何被供给，即怎样通过基础设施把Token高效、低成本地生产出来；最后，如何变现，即最终怎样转化为收入和业务价值。

这个概念越来越重要，很大程度上是因为AI正在从试点和大规模训练阶段，进入规模化应用和持续推理阶段。随着AI智能体的发展，一个任务可能需要更长的上下文、更多轮推理以及工具调用，Token的需求量和使用方式都会发生很大变化。

当Token进入规模化生产和使用之后，企业就需要像管理一个生产系统一样，去关注它的产量、效率、单位成本。从这个角度说，Token经济学把AI的技术投入和经济产出连接了起来，企业既要考虑Token能不能更高效、更低成本地生成，也要考虑这些Token被用在了什么地方，最终能支持怎样的业务应用和价值创造。

王一粟：我先说一个数字，这个数字让我觉得Token经济学必须被认真讨论。从2024年初到2026年3月，中国日均Token调用量从1000亿直接飙到140万亿，两年涨了1400倍。

这个数字背后有三件事正在同时发生。

第一件，企业过去习惯看算力投入，现在要看智能产出。以前的逻辑是你买了多少张卡、用了多少度电、建了几个数据中心，这是从投入维度核算。Token经济学出现之后，企业要算另外一笔账：我花1美元买Token，它帮我完成了多少任务？节省了多少时间？创造了多少收入？这是产出维度的核算。从投入到产出，这是整个AI行业从技术竞赛切换到商业落地的转折点。

第二件，企业内部出现了新的计量单位来重新管理AI投入。最典型的就是今年有公司提出了DAA，日活智能体数。为什么会有这个东西？因为一个企业只看烧了多少Token，跟钢铁厂只看烧了多少煤是一回事，煤烧得多不多，不代表钢铁产出好不好。IDC也发了一份DAA的报告，我们还观察到部分运营商开始按“用户数+AI终端渗透率+Token消耗量+单位Token经济价值”重新设计商业模型。

第三件，企业内部的AI管理正在变成CFO和CIO共同的事。过去AI投入是CIO一个人管，但现在Token的消耗量级已经到了CFO必须介入的程度。越来越多企业内部开始设立专门管理AI资源消耗的岗位，这个岗位既要懂模型也要懂财务，要回答的问题是：每一笔AI投入到底换回了什么？

总结一下，Token经济学是企业AI投入从算力时代过渡到智能时代的必然产物。这个概念在过去一年已经从少数人的讨论变成了产业共识，这就是为什么它今天成为企业讨论AI时越来越核心的框架。

问：当智能体进入企业，Token的使用会发生什么变化？目前常见的智能体应用大概分为哪几类，对Token的需求有什么不同？

赖博：从工作负载和实际用例来看，我会把常见的智能体大致分成三类。

第一类是对话和助手型，比如客服助手、知识问答，这类应用需要及时响应，对时延要求比较高，需要支撑大量用户并发，每次任务相对较短，Token消耗比较容易预测。

第二类是工作流型智能体，比如让智能体帮你完成一份研究报告，它需要先理解任务，然后检索资料、调用工具、分析信息、生成结果，一般会经过多轮模型调用，上下文也比较长。

第三类是更加自主、长时间运行的智能体，包括多智能体协作，它们可能持续执行几十分钟、几个小时甚至更长，过程中不断调用各种工具、更新上下文，甚至启动子智能体。

我们NVIDIA自己做过一些测试，一个智能体任务可能涉及50到500次甚至更多的连续模型调用。到了多智能体场景，Token消耗会进一步被放大。所以智能体发展起来之后，Token需求变得越来越难以预测——上下文有多长、需要推理多少轮、调用多少次工具、同时运行多少智能体、对响应速度有什么要求，所有这些都会改变Token的需求结构。

王一粟：补充一个趋势判断，未来一年到一年半，AI办公智能体很可能成为企业Token消耗的第一大场景，因为办公是少数同时具备高频使用和清晰付费意愿的场景。2026年Q2一些头部科技公司资本开支暴涨70%到300%，其中AI办公占比不小。放到赖博的分类里，办公智能体正从工作流型走向自主协作型，Token消耗还会进一步放大。

问：要把Token经济学真正应用在业务中，企业有没有一套可以拿来做决策的框架？

赖博：企业考虑AI投入时，核心要回答几个问题：这项投入有没有产生价值？需要投入多少资源？如何保证AI能力稳定运行？最终能不能转化成业务回报？围绕这些问题，可以用NVIDIA提出的Token经济学四个支柱来理解。

第一是Token的价值：AI的输出是否真正解决了业务问题。第二是Token的需求：企业需要了解不同用户、不同场景下对Token的需求，包括使用规模、任务类型、峰值需求等。第三是Token的供给：企业需要关注如何通过模型、算力和基础设施规划，提高Token供给效率、降低单位成本。最后就是很多人关心的Token如何变现：如何将Token的使用转化为实际的业务价值和商业回报。把这四个支柱结合起来考量，企业就能从Token的需求、供给和价值多个维度，较为全面地评估Token投入。

王一粟：这四个支柱讲的不只是技术，也是企业经营的核心问题，所以还需要从顶层架构上设计。我把它对应到企业内部的四个角色，这个对应关系我自己觉得比较好用。

CEO和CFO关心变现，每一笔AI投入换回多少收入和效率，账要算清；业务负责人关心价值，AI输出能不能被业务团队真正用起来，演示惊艳、落地没人用的情况太常见了；产品和运营关心需求，峰值扛不扛得住，服务型智能体每多处理一个工单要多消耗5000到15000个Token，一个5000人的企业每天1万工单，一天就是5000万到1.5亿Token；技术团队关心供给，能不能又快又稳地交付。

四个角色的关系是“上推下拉”，业务越广需求越大，需求越大技术越要给力，技术投入最终要看变现。国内很多先进企业已经每两周开一次AI经营会，把四个角色拉到同一张桌上。这个动作很小，但它是把AI投入从技术问题升级为经营问题的分水岭。

问：作为企业管理者，应该怎样合理规划和管理全公司不同的Token需求，让Token使用效率最大化、同时降低成本？

赖博：这确实是一个比较重要也比较有挑战的问题。企业规划Token需求，现在已经完全不能简单按“用户数量×每次请求Token数”来估算了，真实生产环境中AI工作负载非常复杂，智能体可能需要多轮推理，不同任务复杂程度也影响Token消耗。Token需求预测可以从三个层次分析。

第一个层次是基础需求估算：通过用户数量、请求次数、单次请求的大致Token规模，建立初步的需求基线。

第二个层次是工作负载倍增因素：进一步考虑推理轮数、智能体调用次数、重试以及缓存等因素。

第三个层次是运行需求：结合实际部署中的峰值需求、业务增长和延迟要求，帮助企业更准确地规划基础设施。通过这些方法，企业可以从简单估算逐步走向贴近实际场景的Token需求，更合理地规划AI基础设施投入。

王一粟：需求不清楚是一个特别常见而且致命的问题。过去两年我听到最多的声音就是“我要上AI”，但具体用来干什么、效果怎么样，大家都没有感知。今年已经好了很多，做得好的公司会让业务线的人自己真正去做AI产品。

我今年刚见过一个案例：财务部门里专门设了一个AI化的IT部门，他们自己造了一套智能体系统，把采购、审批、利润率计算都打通到一张表里，同时引入外部专业供应商。但也别过于相信非IT人员的能力，很多业务人员自己用AI Coding做东西，成熟度差得非常多，还是要让专业的人干专业的事，同时要有整体的顶层规划。

落到预算上，刚才赖博也提到了一些，我的建议是三套预算。第一是基础预算：按当前规模和模型预测，给出未来12个月的月均Token消耗。第二是增长预算：每月预留一个增长限度，10%、20%也好，30%、40%也好，动态观察，因为AI的使用需求是在不断挖掘和提升的。第三是峰值预算：新产品上线、季节性峰值、批量任务集中的时候会有瞬时消耗，这里要做好backup，用户体验才不会在关键时刻崩掉。

这三套预算加起来，才是企业真正该准备的Token容量。这件事为什么重要？因为我看到太多企业“先用起来再说”，结果某一天突然爆出一张几百万Token的天价账单。所谓提前规划，不是浪费时间，是给自己留出试错空间。

问：提供了需求之后，企业还要判断这笔基础设施投入有没有带来结果。怎么判断Token投入是否有效？有什么指标值得参考？

王一粟：我把它分成三个圈层。

最外层是业务结果指标，看五个：任务完成率、节省时间、输出质量、使用率、业务回报，只看Token消耗量绝对不行。

中间层是流程效率指标，用来补归因的位：自动化率、