AI 助理
备案控制台
开发者社区 大数据与机器学习 人工智能平台PAI 文章 正文

快速玩转 Llama2！机器学习 PAI 最佳实践（二）—全参数微调训练

2023-07-28 2256
版权
版权声明：
本文内容由阿里云实名注册用户自发贡献，版权归原作者所有，阿里云开发者社区不拥有其著作权，亦不承担相应法律责任。具体规则请查看《 阿里云开发者社区用户服务协议》和 《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容，填写 侵权投诉表单进行举报，一经查实，本社区将立刻删除涉嫌侵权内容。
本文涉及的产品
模型在线服务 PAI-EAS，A10/V100等 500元 1个月
推荐场景：
基于PAI-EAS挂载OSS部署AIGC服务
交互式建模 PAI-DSW，每月250计算时 3个月
推荐场景：
PAI×LLaMA Factory 微调 Llama3 模型
模型训练 PAI-DLC，5000CU*H 3个月
推荐场景：
低代码 Lora 微调及部署
简介： 本实践将采用阿里云机器学习平台PAI-DSW模块针对 Llama-2-7B-Chat 进行全参数微调。PAI-DSW是交互式建模平台，该实践适合需要定制化微调模型，并追求模型调优效果的开发者。

📕 阿里云大语言模型（LLM）实战训练营火热开营中，点击报名参与


前言

近期，Meta 宣布大语言模型 Llama2 开源，包含7B、13B、70B不同尺寸，分别对应70亿、130亿、700亿参数量，并在每个规格下都有专门适配对话场景的优化模型Llama-2-Chat。Llama2 可免费用于研究场景和商业用途（但月活超过7亿以上的企业需要申请），对企业和开发者来说，提供了大模型研究的最新利器。


目前，Llama-2-Chat在大多数评测指标上超过了其他开源对话模型，并和一些热门闭源模型（ChatGPT、PaLM）相差不大。阿里云机器学习平台PAI第一时间针对 Llama2 系列模型进行适配，推出全量微调、Lora微调、推理服务等场景最佳实践，助力AI开发者快速开箱。以下我们将分别展示具体使用步骤。


【往期最佳实践】：

  1. 快速玩转 Llama2！机器学习 PAI 最佳实践（一）—低代码 Lora 微调及部署
  2. 快速玩转 Llama2！机器学习 PAI 最佳实践（二）—全参数微调训练
  3. 快速玩转 Llama2！机器学习 PAI 最佳实践（三）—快速部署WebUI


最佳实践：Llama2 全参数微调训练

  • 本实践将采用阿里云机器学习平台PAI-DSW模块针对 Llama-2-7B-Chat 进行全参数微调。PAI-DSW是交互式建模平台，该实践适合需要定制化微调模型，并追求模型调优效果的开发者。

一、运行环境要求

Python环境3.9以上，GPU推荐使用A100（80GB），该资源比较紧俏，建议多刷新几次。

二、准备工作

1、登入PAI并下载 Llama-2-7B-Chat

a. 登入PAI控制台 https://pai.console.aliyun.com/

b. 进入 PAI-DSW 创建实例后下载模型文件。运行如下代码，可以自动为您选择合适的下载地址，并将模型下载到当前目录。

import os
dsw_region = os.environ.get("dsw_region")
url_link = {
    "cn-shanghai": "https://atp-modelzoo-sh.oss-cn-shanghai-internal.aliyuncs.com/release/tutorials/llama2/llama2-7b.tar.gz",
    "cn-hangzhou": "https://atp-modelzoo.oss-cn-hangzhou-internal.aliyuncs.com/release/tutorials/llama2/llama2-7b.tar.gz",
    "cn-shenzhen": "https://atp-modelzoo-sz.oss-cn-shenzhen-internal.aliyuncs.com/release/tutorials/llama2/llama2-7b.tar.gz",
    "cn-beijing": "https://atp-modelzoo-bj.oss-cn-beijing-internal.aliyuncs.com/release/tutorials/llama2/llama2-7b.tar.gz", 
}
path = url_link[dsw_region]
os.environ['LINK_CHAT'] = path
!wget $LINK_CHAT
!tar -zxvf llama2-7b.tar.gz

如果您的地区不在上述地区中，您可以自行选择与你地域最近的链接进行下载(不同地域不共享内网，记得将链接中的-internal去掉)。同一地域的数据下载速度快，不同地域之间也可以下载，但是速度比同一地域略慢。


如果您希望从ModelScope下载模型，请点击链接：https://modelscope.cn/models/modelscope/Llama-2-7b-chat-ms/summary

2、下载和安装环境

接着下载和安装所需要的环境。

  • ColossalAI是大规模并行AI训练系统，在本例中我们使用该框架进行模型微调。
  • transformers是基于transformers模型结构的预训练语言库。
  • gradio是一个快速构建机器学习Web展示页面的开源库。
! wget https://atp-modelzoo-sh.oss-cn-shanghai.aliyuncs.com/release/tutorials/llama2/ColossalAI.tar.gz
! tar -zxvf ColossalAI.tar.gz
! pip install ColossalAI/.
! pip install ColossalAI/applications/Chat/.
! pip install transformers==4.30.0
! pip install gradio==3.11

3、下载示例训练数据

下载训练所需的数据，这里我们提供的一份创意生成数据，包括发言稿生成等内容。

您也可以参考该格式，自行准备所需数据。

! wget https://atp-modelzoo-sh.oss-cn-shanghai.aliyuncs.com/release/tutorials/llama2/llama_data.json
! wget https://atp-modelzoo-sh.oss-cn-shanghai.aliyuncs.com/release/tutorials/llama2/llama_test.json

三、微调模型

您可以使用已经写好的训练脚本，进行模型训练。

! sh ColossalAI/applications/Chat/examples/train_sft.sh

四、试玩模型

模型训练完成后，下载我们提供的webUI demo，试玩微调完成的模型（注意模型地址替换为自己训练好的模型地址）。

import gradio as gr
import requests
import json
from transformers import AutoTokenizer, AutoModelForCausalLM
#模型地址替换为自己训练好的模型地址
tokenizer = AutoTokenizer.from_pretrained("/mnt/workspace/sft_llama2-7b",trust_remote_code=True)
#模型地址替换为自己训练好的模型地址
model = AutoModelForCausalLM.from_pretrained("/mnt/workspace/sft_llama2-7b",trust_remote_code=True).eval().half().cuda()
def inference(text):
    from transformers import pipeline
    pipe = pipeline("text-generation", model=model, tokenizer=tokenizer,device='cuda:0', max_new_tokens=400)
    res=pipe(text)
    return res[0]['generated_text'][len(text):]
demo = gr.Blocks()
with demo:
    input_prompt = gr.Textbox(label="请输入需求", value="请以软件工程师的身份，写一篇入职的发言稿。", lines=6)
    generated_txt = gr.Textbox(lines=6)
    b1 = gr.Button("发送")
    b1.click(inference, inputs=[input_prompt], outputs=generated_txt) 
demo.launch(enable_queue=True, share=True)

五、模型上传至OSS并在线部署

如果希望将上述模型部署至PAI-EAS，您需要首先将训练完成的模型上传至OSS。

下列参数需要根据您自己的信息填写

# encoding=utf-8
import oss2
import os
AK='yourAccessKeyId'
SK='yourAccessKeySecret'
endpoint = 'yourEndpoint'
dir='your model output dir'
auth = oss2.Auth(AK, SK)
bucket = oss2.Bucket(auth, endpoint, 'examplebucket')
for filename in os.listdir(dir):
    current_file_path = dir+filename
    file_path = '需要上传地址'
    bucket.put_object_from_file(file_path, current_file_path)

接下来进行部署工作，步骤请参考【最佳实践三：Llama2 快速部署 WebUI】


What's More

  1. 本文提到的机器学习平台PAI对Llama2 系列模型进行适配，指为支持Llama2系列模型在PAI上的微调和推理，PAI进行了开发环境的适配。
  2. 本文主要展示了基于阿里云机器学习平台PAI快速进行Llama2微调及部署工作的实践，主要是面向7B和13B尺寸的。后续，我们将展示如何基于PAI进行70B尺寸的 Llama-2-70B 的微调及部署工作，敬请期待。
  3. 上述实验中，【最佳实践三：Llama2 快速部署 WebUI】支持免费试用机型运行，欢迎点击【阅读原文】前往阿里云使用中心领取“PAI-EAS”免费试用后前往PAI控制台体验。


【往期最佳实践】：

  1. 快速玩转 Llama2！机器学习 PAI 最佳实践（一）—低代码 Lora 微调及部署
  2. 快速玩转 Llama2！机器学习 PAI 最佳实践（二）—全参数微调训练
  3. 快速玩转 Llama2！机器学习 PAI 最佳实践（三）—快速部署WebUI


📕大语言模型（LLM）实战训练营入口：立即参与


参考资料：

  1. Llama2: Inside the Model https://ai.meta.com/llama/#inside-the-model
  2. Llama 2 Community License Agreement https://ai.meta.com/resources/models-and-libraries/llama-downloads/
  3. HuggingFace Open LLM Leaderboard https://huggingface.co/spaces/HuggingFaceH4/open_llm_leaderboard
  4. 阿里云机器学习平台PAI：https://www.aliyun.com/product/bigdata/learn


特别提示您 Llama2 属于国外公司开发的限制性开源模型，请您务必在使用前仔细阅读并遵守 Llama2 的许可协议，尤其是其限制性许可条款（如月活超过7亿以上的企业需申请额外许可）和免责条款等。

此外提醒您务必遵守适用国家的法律法规，若您利用 Llama2 向中国境内公众提供服务，请遵守国家的各项法律法规要求，尤其不得从事或生成危害国家、社会、他人权益等行为和内容。

文章标签：
人工智能平台 PAI
对象存储
机器学习/深度学习
人工智能
对象存储
物联网
开发者
关键词：
人工智能平台 PAI训练
人工智能平台 PAI微调
人工智能平台 PAI参数
机器学习人工智能平台 PAI
人工智能平台 PAI最佳实践
相关实践学习
使用PAI-EAS一键部署ChatGLM及LangChain应用
本场景中主要介绍如何使用模型在线服务（PAI-EAS）部署ChatGLM的AI-Web应用以及启动WebUI进行模型推理，并通过LangChain集成自己的业务数据。
机器学习概览及常见算法
机器学习(Machine Learning, ML)是人工智能的核心，专门研究计算机怎样模拟或实现人类的学习行为，以获取新的知识或技能，重新组织已有的知识结构使之不断改善自身的性能，它是使计算机具有智能的根本途径，其应用遍及人工智能的各个领域。 本课程将带你入门机器学习，掌握机器学习的概念和常用的算法。
工程师U
目录
相关文章
zzy的aly
|
1月前
|
机器学习/深度学习 计算机视觉 Python
模型预测笔记(三)：通过交叉验证网格搜索机器学习的最优参数
本文介绍了网格搜索（Grid Search）在机器学习中用于优化模型超参数的方法，包括定义超参数范围、创建参数网格、选择评估指标、构建模型和交叉验证策略、执行网格搜索、选择最佳超参数组合，并使用这些参数重新训练模型。文中还讨论了GridSearchCV的参数和不同机器学习问题适用的评分指标。最后提供了使用决策树分类器进行网格搜索的Python代码示例。
zzy的aly
66 1
众所周知
|
2月前
|
机器学习/深度学习 算法 数据挖掘
Python数据分析革命：Scikit-learn库，让机器学习模型训练与评估变得简单高效！
在数据驱动时代，Python 以强大的生态系统成为数据科学的首选语言，而 Scikit-learn 则因简洁的 API 和广泛的支持脱颖而出。本文将指导你使用 Scikit-learn 进行机器学习模型的训练与评估。首先通过 `pip install scikit-learn` 安装库，然后利用内置数据集进行数据准备，选择合适的模型（如逻辑回归），并通过交叉验证评估其性能。最终，使用模型对新数据进行预测，简化整个流程。无论你是新手还是专家，Scikit-learn 都能助你一臂之力。
众所周知
136 8
土木林森
|
3月前
|
机器学习/深度学习 API 网络架构
"解锁机器学习超级能力！Databricks携手Mlflow，让模型训练与部署上演智能风暴，一触即发，点燃你的数据科学梦想！"
【8月更文挑战第9天】机器学习模型的训练与部署流程复杂，涵盖数据准备、模型训练、性能评估及部署等步骤。本文详述如何借助Databricks与Mlflow的强大组合来管理这一流程。首先需在Databricks环境内安装Mlflow库。接着，利用Mlflow跟踪功能记录训练过程中的参数与性能指标。最后，通过Mlflow提供的模型服务功能，采用REST API或Docker容器等方式部署模型。这一流程充分利用了Databricks的数据处理能力和Mlflow的生命周期管理优势。
土木林森
151 7
BetterBench
|
3月前
|
机器学习/深度学习 运维 算法
【阿里天池-医学影像报告异常检测】3 机器学习模型训练及集成学习Baseline开源
本文介绍了一个基于XGBoost、LightGBM和逻辑回归的集成学习模型，用于医学影像报告异常检测任务，并公开了达到0.83+准确率的基线代码。
BetterBench
71 9
DreamSpark
|
3月前
|
机器学习/深度学习 人工智能 自然语言处理
基于PAI-QuickStart搭建一站式模型训练服务体验
【8月更文挑战第5天】基于PAI-QuickStart搭建一站式模型训练服务体验
DreamSpark
130 0
LDG_AGI
|
3月前
|
机器学习/深度学习 存储 人工智能
【机器学习】Qwen1.5-14B-Chat大模型训练与推理实战
【机器学习】Qwen1.5-14B-Chat大模型训练与推理实战
LDG_AGI
381 0
三分钟热度的鱼
|
5月前
|
机器学习/深度学习 人工智能 自然语言处理
人工智能平台PAI产品使用合集之如何配置cluster系统自动生成分布式参数
阿里云人工智能平台PAI是一个功能强大、易于使用的AI开发平台，旨在降低AI开发门槛，加速创新，助力企业和开发者高效构建、部署和管理人工智能应用。其中包含了一系列相互协同的产品与服务，共同构成一个完整的人工智能开发与应用生态系统。以下是对PAI产品使用合集的概述，涵盖数据处理、模型开发、训练加速、模型部署及管理等多个环节。
三分钟热度的鱼
94 4
三分钟热度的鱼
|
4月前
|
机器学习/深度学习 人工智能 分布式计算
人工智能平台PAI使用问题之如何使用${bizdate} 参数来指定分区表
阿里云人工智能平台PAI是一个功能强大、易于使用的AI开发平台，旨在降低AI开发门槛，加速创新，助力企业和开发者高效构建、部署和管理人工智能应用。其中包含了一系列相互协同的产品与服务，共同构成一个完整的人工智能开发与应用生态系统。以下是对PAI产品使用合集的概述，涵盖数据处理、模型开发、训练加速、模型部署及管理等多个环节。
三分钟热度的鱼
60 0
vohelon
|
4月前
|
机器学习/深度学习 存储 分布式计算
PAI机器学习平台如何进行分布式训练？
【7月更文挑战第1天】PAI机器学习平台如何进行分布式训练？
vohelon
130 1
众所周知
|
4月前
|
机器学习/深度学习 算法 数据挖掘
Python数据分析革命：Scikit-learn库，让机器学习模型训练与评估变得简单高效！
【7月更文挑战第27天】在数据驱动时代，Python以丰富的库成为数据科学首选。Scikit-learn因简洁高效而备受青睐，引领数据分析革命。本文引导您使用Scikit-learn简化机器学习流程。首先通过`pip install scikit-learn`安装库。接着使用内置数据集简化数据准备步骤，例如加载Iris数据集。选择合适的模型，如逻辑回归，并初始化与训练模型。利用交叉验证评估模型性能，获取准确率等指标。最后，应用训练好的模型进行新数据预测。Scikit-learn为各阶段提供一站式支持，助力数据分析项目成功。
众所周知
72 0
大数据与机器学习

人工智能平台PAI

热门文章

最新文章

  • 1
    【玩转数据系列六】文本分析算法实现新闻自动分类
  • 2
    【玩转数据系列十三】机器学习算法基于信用卡消费记录做信用评分
  • 3
    【玩转数据系列五】农业贷款发放预测
  • 4
    基于协同过滤算法的推荐
  • 5
    FM算法介绍
  • 6
    【教程】5分钟在PAI算法市场发布自定义算法
  • 7
    大规模深度学习优化技术在PAI平台中的应用及实践
  • 8
    推荐系统之冷启动问题
  • 9
    【玩转数据系列十七】机器学习实现双十一购物清单的自动商品标签归类
  • 10
    推荐系统之业务架构总览
  • 1
    Qwen2.5-Coder 系列模型在 PAI-QuickStart 的训练、评测、压缩及部署实践
    11
  • 2
    国内首家！ 阿里云人工智能平台 PAI 通过 ITU 国际标准测评
    14
  • 3
    Physics Informed Deep Learning (Part I): Data-driven Solutions of Nonlinear Partial Differential Equations
    9
  • 4
    AI 写歌词，会让歌词创作变得更容易吗？
    25
  • 5
    DistilQwen2 蒸馏小模型在 PAI-QuickStart 的训练、评测、压缩及部署实践
    55
  • 6
    深度解读AI在数字档案馆中的创新应用：高效识别与智能档案管理
    117
  • 7
    【EMNLP2024】基于多轮课程学习的大语言模型蒸馏算法 TAPIR
    44
  • 8
    【EMNLP2024】面向长文本的文视频表征学习与检索模型 VideoCLIP-XL
    48
  • 9
    【EMNLP2024】阿里云人工智能平台 PAI 多篇论文入选 EMNLP2024
    63
  • 10
    DistilQwen2：通义千问大模型的知识蒸馏实践
    211

    • 相关产品

  • 人工智能平台 PAI
    文档详情 产品详情

    • 相关课程

    更多
  • PAI平台学习路线：机器学习入门到应用
  • 场景实践 - 机器学习PAI实现精细化营销
  • 场景实践 - 基于阿里云PAI机器学习平台使用时间序列分解模型预测商品销量
  • 场景实践 - 基于机器学习进行收入预测分析
  • 机器学习概览及常见算法
  • 机器学习入门-概念原理及常用算法

    • 相关电子书

    更多
  • 大规模机器学习在蚂蚁+阿里的应用
  • 阿里巴巴机器学习平台AI
  • 微博机器学习平台架构和实践

    • 相关实验场景

    更多
  • 如何快速训练大模型
  • 使用PAI+LLaMA Factory微调Qwen2-VL模型，搭建文旅领域知识问答机器人
  • AI克隆声音，基于函数计算部署GPT-Sovits语音生成模型
  • 函数计算一键部署AI大语言模型并会话
  • 【文生图】一键部署Stable Diffusion基于函数计算
  • 在云上部署ChatGLM2-6B大模型（GPU版）
    • 下一篇
    手把手教你白嫖阿里云服务器(免费领服务器)