199/113 原环境与 124/104 LPK 对比

相同固定输入、4 并发、512K 共享上下文、测试时 prompt cache 为 0。吞吐量不得降低,TTFT 不得增加,输出 token 数量和哈希必须完全一致。

验收:未通过;保留结果,继续定位与优化

工作负载原环境 tok/sLPK tok/s吞吐变化原 TTFT 秒LPK TTFT 秒结果
文本生成 C145.8945.91+0.04%0.238250.23343通过
文本生成 C4 总吞吐70.1174.11+5.71%0.722780.71437通过
代码生成 C167.0165.71-1.94%0.380060.38725未通过
代码生成 C4 总吞吐87.5390.72+3.64%1.135971.02582通过
8K 预填充835.11925.13+10.78%9.820368.86476通过
32K 预填充658.43947.69+43.93%49.8000134.59994通过
128K 预填充656.79888.60+35.29%199.84445147.52331通过

计时期间被动剖析

每两秒读取现有 sysfs/proc,包含排除计时的热身和请求间隙;采样先存内存,结束后写盘。没有采集 GPU 内核计数器或逐内核耗时。

节点样本数GPU GHzEMC GHzCPU GHz 范围最低可用内存 GiBGPU 温度 °C
192.168.1.1994361.575–1.5754.266–4.2662.601–2.60111.0152.093–63.000
192.168.1.1134371.575–1.5754.266–4.2662.601–2.60112.2352.531–63.531
192.168.1.1243461.575–1.5754.266–4.2662.601–2.60110.5852.531–64.937
192.168.1.1043461.575–1.5754.266–4.2662.601–2.60111.9052.062–65.562