游客发表
衡量全市场每百万LLM Token(大语言模型词元)支付价格的更强更少Silicon Data LLM Token支出指数,在经历去年12月创立以来近乎翻倍的推理飙升后,近期较5月份高点回落近20%。耗背后A何算好商
“成本高昂迫使AI用户克制无节制的业链业化使用,”行业资深投资者Louis Navellier指出,更强更少越来越多的推理报告证实,以Token计价的耗背后A何算好商AI解决方案正面临使用量的收缩压力。
当前,业链业化AI产业重心正从模型训练向推理应用转移。更强更少如何用更少的推理Token消耗实现更强的推理能力,已成为大模型企业及Agent(智能体)应用公司的耗背后A何算好商核心关注点。
“我们月Token成本同比去年下降90%,业链业化1元Token带来了460元的更强更少产出。”税友股份亿企赢CPO周源向《每日经济新闻》透露,推理尽管Token消耗量是耗背后A何算好商去年同期的两倍,但成本显著降低。
在软硬件协同的大背景下,Token效率的提升已超越模型与应用层面,延伸至硬件底层。
随着AI推理应用爆发,算力需求不再局限于GPU,TPU、AI ASIC、NPU等面向特定场景设计的XPU正快速崛起,成为云服务商优化成本、提升效率的关键工具。
中昊芯英创始人兼CEO杨龚轶凡表示,算力成本是AI商业化的关键。目前多数AI软件服务商毛利率不足40%,算力硬件开支是核心成本项。
周源透露,公司月Token消耗量达400亿—500亿,处于国内中大型AI应用或垂直领域头部企业的典型用量级,而去年同期仅为200亿—300亿。
Token消耗翻倍而成本下降,得益于通用成本降低及基础模型上的工程优化。周源表示,基于自身数据库资源,团队进行了大量Harness(算力调度驾驭层)优化,显著提高了Token效率。
近期发布的Agentic 2.0引入A2A(Agent to Agent)协同架构。以往独立的AI会计、顾问、开票员工具,在新体系中实现信息共享、协同决策与自动分工。
从单体Agent到A2A协同,从数字员工到数字组织,AI应用正从效率工具转向产业新供给。这种从工具化向结果化交付的转变,正在驱动上市公司业绩增长。
2026年一季度,税友股份营收4.88亿元,同比增长8.67%,扣非净利润增幅达33.28%。业绩增长主要受益于数智财税业务的扩张与客户渗透深化。
基于此增长趋势,税友股份提出AI驱动预期:2026年AI驱动收入有望占亿企赢整体收入的50%;2027年该比例目标提升至80%。
AI大模型商业化“落地战”已成为企业应用的试金石。
《中国AI大模型商业化报告(2026年上)》指出,当前AI商业模式日趋多元,已存在10种模式,其中MaaS、本地化部署、行业解决方案及C端订阅最为主流。中国AI大模型商业化处于成长期,在技术、成本、模式等方面仍面临挑战。
报告强调,短期快速盈利与长期生态构建是核心问题。面向个人及小微团队的订阅制模式,需突破低付费率与产品同质化瓶颈,目前仍处于“探路”阶段。
在应用层之下,模型层头部通用大模型企业正强化高性能与低成本优势。
今年4月发布的DeepSeek-V4 Pro因受限于高端算力,服务吞吐有限。其技术报告预计,下半年昇腾950超节点批量上市后,Pro价格将大幅下调。
算力对模型价格的影响直观可见。近日传闻DeepSeek与智谱AI推进自研AI推理芯片,虽未获证实,但结合谷歌Gemini与TPU、阿里千问与平头哥的适配案例,芯模协同已成为国产大模型的技术趋势。
国际研究机构Omdia认为,AI普及为中国本土半导体自给率提升创造巨大空间,国产算力芯片与AI模型的“芯模协同”将推动本土产能利用率提升。
中昊芯英CEO杨龚轶凡透露,公司正推进各类大模型适配,通过芯片底层定制专属算力,实现芯片与模型深度耦合,联合调优可大幅降低客户综合算力成本。
杨龚轶凡表示,若能将单位算力成本减半,客户性价比直接翻倍,毛利率可从40%提升至70%。反之,若算力成本居高不下,AI业务将陷入亏损,商业模式无法闭环。因此,深度芯模协同、持续降低训练与推理成本是中昊芯英的中长期核心方向。
6月30日,中昊芯英发布新一代高性能TPU AI专用算力芯片“须臾”,架构全面升级,单卡算力性能提升3倍。搭载“须臾”的泰则® 2.0 AI高性能智算平台,单机算力达7.168P,单个超节点最高实现2048芯片高速片间互联。
摩根士丹利最新半导体报告指出,AI产业重心由训练转向推理,算力需求更加多元。GPU仍将在训练和高性能计算领域保持核心地位,但AI ASIC、NPU等XPU正快速崛起,成为云服务商优化成本、提升效率的重要工具。
XPU涵盖AI ASIC等各类专用处理器。随着训练、推理及智能体任务对算力需求细分,不同架构芯片将在各自擅长场景中发挥作用。
杨龚轶凡认为,Coding与AI智能体是当前商业化核心赛道,对长上下文、长程任务执行及A2A多智能体交互要求持续走高。TPU芯片公司的核心工作是极致硬件优化,持续压低整体算力使用成本。
针对当前TPU芯片,杨龚轶凡提出四大优化方向:
1. Prefill-Decode(预填充-解码解耦)分离专用硬件架构
2. 超大模型分布式集群互联优化
3. 低精度推理硬件原生加速
4. 超大片上存储架构设计
随机阅读
热门排行
友情链接