2025人工智能计算大会观察：token成本成AI应用规模化瓶颈行业寻求算力“破局”

排行榜 2025年09月27日 20:14 0 aa

财联社9月27日讯（记者郭松峤）《关于深入实施“人工智能+”行动的意见》印发至今刚满一月，产业界的“起跑”已然加速。

昨日在北京举行的2025人工智能计算大会，如同一个绝佳的观察窗口。财联社记者在现场注意到，与会专家与企业代表的讨论焦点，已从宏观的政策解读转向了具体的“施工蓝图”。

2025人工智能计算大会观察：token成本成AI应用规模化瓶颈行业寻求算力“破局”

本届大会紧扣人工智能基础设施建设和国产AI算力体系优化，聚焦推动算法创新与应用落地，以算力核心要素为创新牵引，汇聚产学研用各界力量，共同推动人工智能产业高质量发展。现场，中国移动、浪潮信息、智源研究院、昆仑芯等30多家企业和机构，联合发布《基于超节点创新联合体，打造行业智能体——智算应用“北京方案”》，率先响应国家《关于深入实施“人工智能+”行动的意见》。

“实现跨地域、跨硬件的算力连接与普惠共享”

会上，西湖大学“可信及通用人工智能实验室”创始人、欧洲科学院院士金耀初梳理了人工智能发展的主要脉络，并指出其发展路径与人脑智能的涌现过程相似——经历了演化、发育与学习的三个关键机制。基于这个视角，进一步阐述了可信赖人工智能的要求及人工智能治理的重要性，并分享了实验室在工业人工智能领域的实践及类脑通用人工智能的探索。

北京智源人工智能研究院副院长兼总工程师林咏华分享了“众智FlagOS”的技术进展，指出该平台作为开放、统一的系统软件栈，旨在打破AI算力生态壁垒，实现跨地域、跨硬件的算力连接与普惠共享，为全球开发者提供跨芯片、跨框架、跨场景的统一计算底座。

百度首席技术官王海峰梳理了人工智能从规则方法、统计机器学习到深度学习、大模型的发展历程，指出大模型技术通用性与能力的全面性为通用人工智能带来曙光。

浪潮信息首席AI战略官刘军介绍了面向智能体时代的两大创新系统，分享了AI算力可持续发展面临的规模、电力、投入的挑战，提出要从规模导向转为效率导向，重新思考和设计AI计算系统，发展AI专用计算架构。

北京中关村人工智能研究院副院长戴蓓洁介绍了北京中关村学院面向超常规AI领军人才培养需求，建立项目制人才培养体系，推动AI与多学科深度融合，实现科研成果落地与产业需求反哺技术创新的双向赋能，为新质生产力发展注入强劲动力。

硬件创新瞄准token成本瓶颈

财联社记者现场采访了解到，在大会上，token成本高已成为众多企业推进AI应用规模化的核心痛点。

“我们平台上每天有海量的客服、推荐、风控场景需要调用大模型，token成本就像悬在头上的‘达摩克利斯之剑’”。在大会现场，一位电商企业AI平台部的技术负责人对财联社记者透露，他正是为寻找“降本”方案而来。

“随着智能体应用越铺越开，每个交互会话的token消耗量都在激增，目前的成本结构让很多有价值的创新应用在规模化落地前就卡在了‘经济账’上，盈利能力面临巨大考验。”上述负责人坦言，这也成为财联社记者在本届人工智能大会上听到的最具普遍性的声音之一。

中国电子商务专家服务中心副主任郭涛在接受财联社记者采访时表示，当前AI产业正从“模型竞赛”转向“应用落地”，推理成本与交互速度已成为比模型参数规模更关键的竞争维度。基础设施的“提速降本”成效，将直接决定“人工智能+”在垂直行业渗透的深度与广度。

会上，亦有一位上市公司人士对记者表示，随着Scaling Law持续推动模型能力跃升，以DeepSeek为代表的开源模型极大降低了创新门槛，加速智能体产业化的到来。智能体产业化的核心三要素是能力、速度和成本。其中，模型能力决定了智能体的应用上限，交互速度决定了智能体的商业价值，token成本决定了智能体的盈利能力。

这一痛点在此次大会上引发广泛共鸣。面对业界的普遍诉求，算力基础设施厂商正试图从硬件层面寻求突破。

硬件层面，浪潮信息在大会上发布元脑HC1000超扩展AI服务器，基于全新开发的全对称DirectCom极速架构，无损超扩展设计聚合海量本土AI芯片、支持极大推理吞吐量，推理成本首次击破1元/每百万token，为智能体突破token成本瓶颈提供极致性能的创新算力系统。

技术层面，刘军对财联社记者表示，元脑HC1000通过全面优化降本和软硬协同增效，创新16卡计算模组设计、单卡“计算-显存-互连”均衡设计，大幅降低单卡成本和每卡系统分摊成本。同时，全对称的系统拓扑设计支持超大规模无损扩展。据测算，元脑HC1000通过算网深度协同、全域无损技术，实现推理性能相比传统RoCE提升1.75倍，单卡模型算力利用率最高提升5.7倍。

智能体未来带来的推理算力需求将呈现出指数级的爆发式增长，这一趋势无疑得到了行业的认同。

浪潮信息方面对记者透露，将通过软硬件协同设计与深度优化，持续推动AI计算架构的创新与突破，不断实现token生成“提速降本”，积极促进大模型、智能体等人工智能技术与实体经济的深度融合，让人工智能成为千行百业的生产力和创新力。

（财联社记者郭松峤）