阿里云推出了《阿里云大模型高级工程师ACP认证》,配套的学习资料较系统性的梳理了提示词、RAG、Agent插件、微调等系列LLM相关知识。推荐大家学习。
该学习课程需要搭建学习环境,系统推荐使用PAI DSW实例来学习。但有人可能之前没开通过该实例,或者自己的账号是子账号,无开通这种实例的权限。实际上,不需要这么复杂,可以直接在ECS上构建该环境即可,所需的资源很少,1C1G20G系统盘最低配置即可,以Ubuntu系统为例:
1、 创建ECS实例,设置用户名及登录密码(使用ecs-user登录)。
2、 设置安全组配置,配置出方向端口22,并在源IP中加入本机IP。
3、 Ssh到云ECS:ssh ecs-user@公网IP
4、 创建并进入学习目录:workspace
5、 在ECS更新软件包,并安装venv:
sudo apt-get update
sudo apt install python3.10-venv
6、 配置阿里云安装源(因安装的包较多,不配置阿里云安装源非常容易报网络错误而失败。配置文件在/home/ecs-user/.config/pip/pip.conf):pip3 config set global.index-url https://mirrors.aliyun.com/pypi/simple
7、 获取大模型ACP课程的代码,安装所需的包,参考:https://edu.aliyun.com/course/3130200/lesson/343310285?spm=a2cwt.28196072.ACP26.6.11f237f0xycHWF
wget https://developer-labfileapp.oss-cn-hangzhou.aliyuncs.com/ACP/aliyun_llm_acp_install.sh
8、 修改aliyun_llm_acp_install.sh脚本,将脚本中的pip改成pip3(pip update除外)。然后执行该脚本:
/bin/bash aliyun_llm_acp_install.sh
注意:该脚本内会执行大量包的安装(pip3 install -r ./aliyun_acp_learning/requirements.txt),个别包可能因网络等原因会导致下载和安装失败,此时可进入虚拟环境(source llm_learn/bin/activate),根据安装报错,手工安装失败的包。全部安装完毕后,最后再执行一遍全量包的安装命令,确保所有包成功安装。
9、 安装jupyter:pip3 install jupyter
10、 退出 llm_learn 虚拟环境:deactivate
11、 本地便携机上执行如下命令,将云ECS的8888端口映射到本地:ssh -L8888:localhost:8888 ecs-user@ECS的公网IP
12、 在ECS上运行jupyter(如果之前是在虚拟环境中安装的,则需要先激活虚拟环境source llm_learn/bin/activate):nohup jupyter notebook &
13、 在本地浏览器登录jupyter(填写运行notebook时,展示的正确URL。如果采用nohup方式运行,可以使用tail命令查看输出日志):http://localhost:8888/tree?token=XXX2cda
14、 如果本地的ssh客户端超时或其他原因退出。下次再登录时,依然只需要将云ECS的8888端口映射到本地,notebook的URL地址不变:ssh -L8888:localhost:8888 ecs-user@ECS的公网IP
最后,祝大家学有所获,顺利通过考试,拿到认证证书。