自主优化系统的突破：标准化吞吐量提升三倍

Z.ai 进行了一项创新实验，利用 GLM-5.3 驱动的 Infra Agent 来设计、调试并优化 GLM-5.3-Flash 的推理设施，这一系统涵盖超过 100,000 颗中国生产的芯片。实验结果显示，在不到两周的时间内，系统的吞吐量提升了三倍。硬件效率和单个 Token 的成本据称已接近主流的 Nvidia GPU。这一过程的独特之处在于，Infra Agent 优化的不是外部系统，而是自身模型推理运行的基础设施。Z.ai 团队将其称为“递归自我优化”，即模型能够改进支持其运行的基础设施。GLM-5.3 执行决策，而 GLM-5.3-Flash 则作为推理的目标。值得注意的两点是，很短的时间（不到两周）和广泛的规模（超过 100,000 颗芯片）。在这组国产硬件中，Z.ai 选择了与主流 Nvidia GPU 进行对比，评估硬件效率和单个 Token 的成本。尽管未公开具体芯片类型、Agent 的决策流程和成本对比数据，所提供的信息中仅包括实验的结论。