Token推动计算Compute需求：非线形增长.pdfVIP

证券研究报告

科技

Token推动计算Compute需求：非

线形增长

科技增持(维持)

2025年7月17日│中国内地动态点评计算机增持(维持)

Token调用量与算力需求非线性增长

推理和Token调用量之间不是线性关系：从AgenticAI底层来看，

推理过程的倍数项包含Agent数和迭代次数，多Agent协作和多工

具调用带来Token消耗量倍数增长。Token的增长与算力硬件需求

之间也不是线性关系：据黄仁勋在3月份的GTC大会中所述，“Token

量增长10倍，所需的算力量的增长可能增长100倍”。这是因为推

理过程变得更加复杂，在同样的算力条件下，计算的时间也将增长，

如果要求模型具备交互性与实时性，则需要将计算速度提升10倍。

我们认为，AgenticAI将带来Token调用量10倍以上增长，从而带

来算力需求100倍以上提升。目前市场对于算力需求有较大的预期

差，未来算力需求空间广阔。行业走势图

科技计算机

三条Scaling曲线为算力需求打开空间(%)沪深300

目前市场熟知的Scalinglaw是预训练Scalinglaw，即数据和参数量的增长83

可以提升模型性能。对预训练Scalinglaw见顶的担忧导致市场对算力的需59

求的低估。但我们认为，考虑到后训练Scaling和推理Scaling，AI对算力

36

的需求仍有大量空间。推理Scaling的必要性在于提高模型性能，特别是模

型在困难问题方面的表现，是通往AgenticAI的重要路径。回顾Grok4的12

发展历程，对应了三条Scaling曲线。2025年2月，Grok3发布，相比于(12)

Grok2，将预训练阶段的算力扩大10倍，实现性能的突破，对应预训练阶Jul-24Nov-24Mar-25Jul-25

段的Scalinglaw。2025年7月，Grok4发布，将后训练与推理过程的算力资料来源：Wind

扩大10倍，在推理/测试阶段花费更多时间思考，调用更多算力，例如通过

多Agent共同思考，商议问题结果，进一步在HLE测评集上实现突破，对

应后训练与推理过程的Scalinglaw。

Token调用量随推理扩展呈倍数增长

GTC2025大会中，黄仁勋多次提到了“AgenticAI”，理解AgenticAI才

能理解大会中Token量大幅增长的结论。我们认为DeepResearch是

“Agentic化”的AISearch，是研究AgenticAI合适的抓手。我们从Deep

Research的底层系统设计入手，分析得出Token量增长源于多Agent和多

工具调用，并基于系统运行流程对Token增量进行量化。根据我们的测算，

DeepResearch的Token消耗可能接近单次聊天的50倍。对于比Deep

Research更复杂的一般AgenticAI，Token增长量会更高。

AI算力需求随Token增长呈倍数增长

推理过程中存在延迟与吞吐量两个重要指标，两个指标相互制约，分别决定

了用户对于模型/AI应用的使用体验（若延迟过高，则会失去用户）与模型

/AI应用厂商的总任务处理量，对应AI服务的量价关系，从而决定了AI服

务的商业化。考虑模型/AI应用厂商Token经济学的“帕累托最优”问题，

则需要追求用户使用量与AI服务质量之间的平衡，而想要扩大最优边界，

则需要增加算力硬件。随着推理过程变得更加复杂，在同样的算力条件下计

算的时间也将增长。用户太久的等待将失去耐心，如果要求模型具备交互性