智谱开源端侧大语言和多模态模型GLM-Edge系列！
GLM-Edge系列模型是由智谱开源，专为端侧应用设计的大语言对话模型和多模态理解模型，包括GLM-Edge-1.5B-Chat、GLM-Edge-4B-Chat、GLM-Edge-V-2B和GLM-Edge-V-5B四种尺寸。这些模型针对手机、车机及PC等不同平台进行了优化，通过量化的技术手段，实现了高效运行。例如，在高通骁龙8 Elite平台上，1.5B对话模型和2B多模态模型能够达到每秒60 tokens以上的解码速度，而通过应用投机采样技术，这一数字可提升至100 tokens以上。
智谱AI GLM4开源！支持多模态&长序列，魔搭推理、微调最佳实践来啦！
GLM-4-9B是智谱AI推出的新一代预训练模型GLM-4系列的开源版本，它在多个数据集上的测试中表现出高绩效，包括语义理解、数学问题解决、推理和代码理解等方面。GLM-4-9B模型有四个变体：基础版GLM-4-9B（8K）、对话版GLM-4-9B-Chat（128K）、超长上下文版GLM-4-9B-Chat-1M（1M）和多模态版GLM-4V-9B-Chat（8K）。用户可以通过魔搭社区提供的链接体验这些模型，包括在CPU上运行的版本和支持vLLM推理的版本。