# Qwen3-8B 与 Qwen3-14B 的 TTFT 性能对比与底层原理详解
通义千问Qwen3系列是通义实验室2025年推出的最新大模型，包含多种参数版本，其中Qwen3-8B与Qwen3-14B均支持32K token上下文。Qwen3-8B参数量较小，响应更快，适合低延迟交互；Qwen3-14B参数更多，推理更强，适用于复杂任务。两者在TTFT、架构优化、量化技术及部署方案上各有侧重，满足多样应用场景需求。
ONNX 优化技巧：加速模型推理
【8月更文第27天】ONNX (Open Neural Network Exchange) 是一个开放格式，用于表示机器学习模型，使模型能够在多种框架之间进行转换。ONNX Runtime (ORT) 是一个高效的推理引擎，旨在加速模型的部署。本文将介绍如何使用 ONNX Runtime 和相关工具来优化模型的推理速度和资源消耗。