通过阿里云ECS实现机器学习简单训练

简介: 通过阿里云ECS平台上搭建机器学习训练平台,帮助完成机器学习功课和比赛的模型训练.

自我介绍

22级计算机研究生,从同学处了解到在校学生可以通过"飞天加速计划"申请服务器,决定通过服务器搭建机器学习环境,方便远程训练简单模型.

搭建方法

  1. 通过飞天计划,通过了解云服务相关理论完成测试,获得阿里云服务器体验权限.
  2. 初步了解和熟悉阿里云管理操作,大致了解每个功能模块.在了解之后,发现目前没有可以一键部署机器学习环境的功能,于是考虑选择哪个官方环境.
  3. 在云服务管理工作台->概览->我的教程->部署开发环境,对于机器学习,目前的docker作为一个应用容器,查看它的仓库找到了许多机器学习相关环境,于是选择docker环境教程,按照教程要求,重置实例密码,下载SSH工具,完成了教程任务.
  4. 完成搭建后教程中结果是可以访问ngnix网站,但我这边是不能访问.
  5. 初步想到的原因可能是防火墙,端口限制这类问题,所以在网络与安全->安全组中,选择对应服务器,配置规则,添加对应端口的规则.最终可以访问,结果证明确实是这个问题.
  6. 通过在docker仓库查询,最终我决定使用tensorflow官方环境,通过ssh工具远程连接服务器.输入以下指令:
docker pull tensorflow/tensorflow
docker run -it--rm-v$(realpath ~/notebooks):/tf/notebooks -p8888:8888 tensorflow/tensorflow:latest-jupyter
  1. 命令行会输出的信息中包含了目前开启服务的url信息,其中将url头部换成自己服务器的公网ip,发现访问不了,按照步骤5加入8888端口,网站就能打开了.
  2. 通过网页访问远程服务器url,在notebook中,新建文本,通过写入命令更新pip,安装sklearn,接下来就可以进行机器学习模型训练了.

总结

因为目前在做机器学习,相对于本地训练和天池自带的notebook,云服务器模型训练可以很方便远程训练,在训练要求不是很高的情况下,使用云服务器简单部署就能满足平时的练习,打比赛需要.docker和云服务功能很强大,之后还需要深入了解和学习.

截图

image.png

相关实践学习
通义万相文本绘图与人像美化
本解决方案展示了如何利用自研的通义万相AIGC技术在Web服务中实现先进的图像生成。
7天玩转云服务器
云服务器ECS(Elastic Compute Service)是一种弹性可伸缩的计算服务,可降低 IT 成本,提升运维效率。本课程手把手带你了解ECS、掌握基本操作、动手实操快照管理、镜像管理等。了解产品详情: https://www.aliyun.com/product/ecs
相关文章
|
机器学习/深度学习 人工智能 JSON
【解决方案】DistilQwen2.5-R1蒸馏小模型在PAI-ModelGallery的训练、评测、压缩及部署实践
阿里云的人工智能平台 PAI,作为一站式的机器学习和深度学习平台,对DistilQwen2.5-R1模型系列提供了全面的技术支持。无论是开发者还是企业客户,都可以通过 PAI-ModelGallery 轻松实现 Qwen2.5 系列模型的训练、评测、压缩和快速部署。本文详细介绍在 PAI 平台使用 DistilQwen2.5-R1 蒸馏模型的全链路最佳实践。
|
人工智能 JSON 算法
【解决方案】DistilQwen2.5-DS3-0324蒸馏小模型在PAI-ModelGallery的训练、评测、压缩及部署实践
DistilQwen 系列是阿里云人工智能平台 PAI 推出的蒸馏语言模型系列,包括 DistilQwen2、DistilQwen2.5、DistilQwen2.5-R1 等。本文详细介绍DistilQwen2.5-DS3-0324蒸馏小模型在PAI-ModelGallery的训练、评测、压缩及部署实践。
|
PyTorch 调度 算法框架/工具
阿里云PAI-DLC任务Pytorch launch_agent Socket Timeout问题源码分析
DLC任务Pytorch launch_agent Socket Timeout问题源码分析与解决方案
777 18
阿里云PAI-DLC任务Pytorch launch_agent Socket Timeout问题源码分析
|
机器学习/深度学习 自然语言处理 算法
Java 大视界 -- Java 大数据机器学习模型在自然语言处理中的对抗训练与鲁棒性提升(205)
本文探讨Java大数据与机器学习在自然语言处理中的对抗训练与鲁棒性提升,分析对抗攻击原理,结合Java技术构建对抗样本、优化训练策略,并通过智能客服等案例展示实际应用效果。
|
机器学习/深度学习 人工智能 自然语言处理
阿里云人工智能平台 PAI 开源 EasyDistill 框架助力大语言模型轻松瘦身
本文介绍了阿里云人工智能平台 PAI 推出的开源工具包 EasyDistill。随着大语言模型的复杂性和规模增长,它们面临计算需求和训练成本的障碍。知识蒸馏旨在不显著降低性能的前提下,将大模型转化为更小、更高效的版本以降低训练和推理成本。EasyDistill 框架简化了知识蒸馏过程,其具备多种功能模块,包括数据合成、基础和进阶蒸馏训练。通过数据合成,丰富训练集的多样性;基础和进阶蒸馏训练则涵盖黑盒和白盒知识转移策略、强化学习及偏好优化,从而提升小模型的性能。
|
缓存 并行计算 测试技术
阿里云PAI-全模态模型Qwen2.5-Omni-7B推理浅试
阿里云PAI-全模态模型Qwen2.5-Omni-7B推理浅试
3265 12
|
存储 人工智能 云栖大会
【云栖大会】阿里云设计中心 × 教育部协同育人项目成果展,PAI ArtLab助力高校AIGC教育新路径
【云栖大会】阿里云设计中心 × 教育部协同育人项目成果展,PAI ArtLab助力高校AIGC教育新路径
|
人工智能 自然语言处理 算法
MT-MegatronLM:国产训练框架逆袭!三合一并行+FP8黑科技,大模型训练效率暴涨200%
MT-MegatronLM 是摩尔线程推出的面向全功能 GPU 的开源混合并行训练框架,支持多种模型架构和高效混合并行训练,显著提升 GPU 集群的算力利用率。
1239 18
|
机器学习/深度学习 人工智能 运维
机器学习+自动化运维:让服务器自己修Bug,运维变轻松!
机器学习+自动化运维:让服务器自己修Bug,运维变轻松!
665 14
|
机器学习/深度学习 人工智能 自然语言处理
云上一键部署通义千问 QwQ-32B 模型,阿里云 PAI 最佳实践
3月6日阿里云发布并开源了全新推理模型通义千问 QwQ-32B,在一系列权威基准测试中,千问QwQ-32B模型表现异常出色,几乎完全超越了OpenAI-o1-mini,性能比肩Deepseek-R1,且部署成本大幅降低。并集成了与智能体 Agent 相关的能力,够在使用工具的同时进行批判性思考,并根据环境反馈调整推理过程。阿里云人工智能平台 PAI-Model Gallery 现已经支持一键部署 QwQ-32B,本实践带您部署体验专属 QwQ-32B模型服务。

热门文章

最新文章