开发者社区 > ModelScope模型即服务 > 计算机视觉 > 正文

ModelScope chatglm2-6b-32k支持vllm吗?

ModelScope chatglm2-6b-32k支持vllm吗?

展开
收起
真的很搞笑 2023-09-12 19:14:42 164 0
1 条回答
写回答
取消 提交回答
  • ModelScope chatglm2-6b-32k 不支持 vllm。

    VLLM 是聊天机器人生成对话模型,它可以根据用户的输入,生成回复。VLLM 是使用大型语言模型 (LLM) 进行训练的,因此它可以生成多样性和流畅性都很高的回复。

    Chatglm2-6b-32k 是 ModelScope 提供的聊天机器人模型之一。它可以根据用户的输入,生成回复。Chatglm2-6b-32k 是使用 Transformer 结构进行训练的,因此它可以生成流畅性比较高的回复。

    Chatglm2-6b-32k 和 VLLM 都是聊天机器人模型,但是它们的训练方式和生成回复的方式不同。VLLM 使用 LLM 进行训练,因此它可以生成多样性和流畅性都很高的回复。Chatglm2-6b-32k 使用 Transformer 结构进行训练,因此它可以生成流畅性比较高的回复。

    如果你需要一个可以生成多样性和流畅性都很高的回复的聊天机器人模型,可以使用 VLLM。如果你需要一个可以生成流畅性比较高的回复的聊天机器人模型,可以使用 Chatglm2-6b-32k。

    2023-10-20 15:43:30
    赞同 展开评论 打赏

包含图像分类、图像生成、人体人脸识别、动作识别、目标分割、视频生成、卡通画、视觉评价、三维视觉等多个领域

相关电子书

更多
视觉AI能力的开放现状及ModelScope实战 立即下载
ModelScope助力语音AI模型创新与应用 立即下载
低代码开发师(初级)实战教程 立即下载