10月23日,中国信通院人工智能研究所联合中国人工智能产业发展联盟发布《大模型词元服务性能监测报告(2026年)》。报告基于2026年1至8月监测数据,围绕调用成功率、吞吐速度、首词时延、稳定性、价格、上下文窗口等维度展开分析。
词元消耗与吞吐方面:2026年6月,国内词元日均消耗量约500万亿,是2025年12月的近4倍。8月国内各模型平均TPS(每秒输出词元数)达78.23,较2025年均值38.25翻倍;但国外典型模型8月TPS均值为112.82,整体仍优于国内。
时延变化方面:国内模型平均TTFT(首词时延)8月均值达1.26秒,较2025年平均值0.78秒明显增加;国外典型模型8月TTFT平均值为2.08秒,同样呈上升趋势。报告指出,TTFT上升伴随模型参数量、上下文长度及调用量增加,并非单纯性能退化。

价格方面:经历两年价格战后,2026年国内外模型服务价格明显上涨。国内2025下半年归一化均价为6.8元,2026年以来均价为13.46元,涨幅接近一倍;国外2026年以来典型模型平均归一价格约117.8元,仍显著高于国内。
上下文长度上:被监测模型中,上下文长度达1M的占比47.8%,200K及以上合计达95.7%,较2025年底提升超76个百分点。
【来源:凤凰网科技】








