ChatGLM-6B一键安装,马上使用(windows)!!

简介: ChatGLM-6B一键安装,马上使用(windows)!!

演示

产品特点

双语: 同时支持中文和英文。

高精度(英文): 在公开的英文自然语言榜单 LAMBADA、MMLU 和 Big-bench-lite 上优于 GPT-3 175B(API: davinci,基座模型)、OPT-175B 和 BLOOM-176B。

高精度(中文): 在7个零样本 CLUE 数据集和5个零样本 FewCLUE 数据集上明显优于 ERNIE TITAN 3.0 260B 和 YUAN 1.0-245B。


快速推理: 首个实现 INT4 量化的千亿模型,支持用一台 4 卡 3090 或 8 卡 2080Ti 服务器进行快速且基本无损推理。


可复现性: 所有结果(超过 30 个任务)均可通过我们的开源代码和模型参数复现。


跨平台: 支持在国产的海光 DCU、华为昇腾 910 和申威处理器及美国的英伟达芯片上进行训练与推理。

基本介绍:

基于ChatGLM-6B 的快速安装服务,您可以快速将ChatGLM-6B 安装安装在您本地服务器中。支持一键安装,无需任何服务配置和代码编写即可完成。

ChatGLM-6B 是一个开源的、支持中英双语的对话语言模型,基于 General Language Model (GLM) 架构,具有 62 亿参数。结合模型量化技术,用户可以在消费级的显卡上进行本地部署(INT4 量化级别下最低只需 6GB 显存)。 ChatGLM-6B 使用了和 ChatGPT 相似的技术,针对中文问答和对话进行了优化。经过约 1T 标识符的中英双语训练,辅以监督微调、反馈自助、人类反馈强化学习等技术的加持,62 亿参数的 ChatGLM-6B 已经能生成相当符合人类偏好的回答。

1、硬件要求:

量化等级 最低 GPU显存(推理) 最低 GPU 显存(高效参数微调)

FP16 (无量化) 13 GB 14 GB

INT8 8 GB 9 GB

INT4 6 GB 7 GB

2、下载ChatGLM一键部署安装包

链接:https://pan.baidu.com/s/13uNzRsJMeXgvhZSJH-nYgQ?pwd=java

提取码:java

3、一键运行

下载完成后,点击文件中的run.exe直接一键运行

运行完成后,即完成本地化ChatGLM安装,您可以直接进行使用。


原地址:csdn:xiangbiao

目录
相关文章
|
8天前
|
Linux 虚拟化 Docker
Windows10安装Docker Desktop(大妈看了都会)
Windows10安装Docker Desktop(大妈看了都会)
163 2
|
12天前
|
关系型数据库 MySQL 数据安全/隐私保护
windows mysql8 安装后 提示密码不对,修改下密码认证方式就可以了
windows mysql8 安装后 提示密码不对,修改下密码认证方式就可以了
25 3
|
11天前
|
IDE Java 开发工具
如何在Windows操作系统上安装PyCharm?
【7月更文挑战第5天】如何在Windows操作系统上安装PyCharm?
107 59
|
5天前
|
Windows
【Windows】 Win10下报错:该文件没有与之关联的应用来执行该操作。请安装应用,若已经安装应用,请在“默认应用设置”页面中创建关联
【Windows】 Win10下报错:该文件没有与之关联的应用来执行该操作。请安装应用,若已经安装应用,请在“默认应用设置”页面中创建关联
12 1
|
8天前
|
数据采集 数据挖掘 数据处理
Pandas如何安装在Windows系统?
【7月更文挑战第8天】Pandas如何安装在Windows系统?
14 2
|
18天前
|
运维 安全 数据管理
数据管理DMS产品使用合集之windows上安装网关时,token都是新的,报错:无效的token,该怎么办
阿里云数据管理DMS提供了全面的数据管理、数据库运维、数据安全、数据迁移与同步等功能,助力企业高效、安全地进行数据库管理和运维工作。以下是DMS产品使用合集的详细介绍。
20 4
|
18天前
|
Windows
Windows安装Kibana 7.9.1
Windows安装Kibana 7.9.1
12 1
|
22天前
|
应用服务中间件 Docker Windows
windows基于Docker安装并启动Tomcat(解决404)
windows基于Docker安装并启动Tomcat(解决404)
53 1
|
11天前
|
前端开发 应用服务中间件 nginx
安装Windows版nginx以及部署前端代码并就解决刷新出现404
安装Windows版nginx以及部署前端代码并就解决刷新出现404
24 0
|
11天前
|
NoSQL Redis Windows
redis双击闪退解决方法,windows版的redis资源,redis安装,win资源可下
redis双击闪退解决方法,windows版的redis资源,redis安装,win资源可下