GLM4.5 8-bit量化报错

GLM4.5 目前 官方权重和代码都没有放出 FP8 版本，你看到的 raise ValueError(f"Unsupported quant_config: {quant_config}") 是因为：
你传入的 quant_config={"quantmethod":"fp8"}（或 --quantization fp8）
但 GLM4.5 的 modeling*.py 里 只登记了 ["awq","gptq","bnb","eetq"] 等量化方案，没有 "fp8" 这一项，于是被框架直接 ValueError 拦下来。
换句话说——不是 GPU 不支持 FP8，而是模型代码还没写 FP8 分支。

改用 AWQ-INT4（已验证）

vllm serve zai-org/glm-4.5-air-awq \
  --quantization awq \
  --tensor-parallel-size 2