开发者社区 问答 正文

导入数据



传数据


用户作业数据及执行文件主要通过对象存储OSS导入E-HPC集群。


用户首先把作业相关文件上传到OSS Bucket中,请参考 OSS上传文件

导入文件


登录后即可通过HTTP访问VPC网络Endpoint导入作业文件。
这里假定用户的作业脚本为test.py,作业数据为test.data;E-HPC集群和OSS都创建在华东1区域;存放作业文件的OSS Bucket名为e-hpc-quickstart,test.py和test.data放在该bucket根目录下。
  1. [backcolor=transparent]cd [backcolor=transparent]/[backcolor=transparent]ehpcdata
  2. [backcolor=transparent]wget http[backcolor=transparent]://[backcolor=transparent]e[backcolor=transparent]-[backcolor=transparent]hpc[backcolor=transparent]-[backcolor=transparent]quickstart[backcolor=transparent].[backcolor=transparent]vpc100[backcolor=transparent]-[backcolor=transparent]oss[backcolor=transparent]-[backcolor=transparent]cn[backcolor=transparent]-[backcolor=transparent]hangzhou[backcolor=transparent].[backcolor=transparent]aliyuncs[backcolor=transparent].[backcolor=transparent]com[backcolor=transparent]/[backcolor=transparent]test[backcolor=transparent].[backcolor=transparent]py
  3. [backcolor=transparent]wget http[backcolor=transparent]://[backcolor=transparent]e[backcolor=transparent]-[backcolor=transparent]hpc[backcolor=transparent]-[backcolor=transparent]quickstart[backcolor=transparent].[backcolor=transparent]vpc100[backcolor=transparent]-[backcolor=transparent]oss[backcolor=transparent]-[backcolor=transparent]cn[backcolor=transparent]-[backcolor=transparent]hangzhou[backcolor=transparent].[backcolor=transparent]aliyuncs[backcolor=transparent].[backcolor=transparent]com[backcolor=transparent]/[backcolor=transparent]test[backcolor=transparent].[backcolor=transparent]data

若当前系统镜像没有安装wget可以通过软件源安装(如’yum install wget’)。或改用curl
  1. [backcolor=transparent]curl [backcolor=transparent]-[backcolor=transparent]O http[backcolor=transparent]://[backcolor=transparent]e[backcolor=transparent]-[backcolor=transparent]hpc[backcolor=transparent]-[backcolor=transparent]quickstart[backcolor=transparent].[backcolor=transparent]vpc100[backcolor=transparent]-[backcolor=transparent]oss[backcolor=transparent]-[backcolor=transparent]cn[backcolor=transparent]-[backcolor=transparent]hangzhou[backcolor=transparent].[backcolor=transparent]aliyuncs[backcolor=transparent].[backcolor=transparent]com[backcolor=transparent]/[backcolor=transparent]test[backcolor=transparent].[backcolor=transparent]py
  2. [backcolor=transparent]curl [backcolor=transparent]-[backcolor=transparent]O http[backcolor=transparent]://[backcolor=transparent]e[backcolor=transparent]-[backcolor=transparent]hpc[backcolor=transparent]-[backcolor=transparent]quickstart[backcolor=transparent].[backcolor=transparent]vpc100[backcolor=transparent]-[backcolor=transparent]oss[backcolor=transparent]-[backcolor=transparent]cn[backcolor=transparent]-[backcolor=transparent]hangzhou[backcolor=transparent].[backcolor=transparent]aliyuncs[backcolor=transparent].[backcolor=transparent]com[backcolor=transparent]/[backcolor=transparent]test[backcolor=transparent].[backcolor=transparent]data


私有Bucket文件访问临时链接


若Bucket设置为私有访问,则可通过 OSS控制台界面点选所需文件,获取临时 含签名的URL(带有临时OSSAccessKeyId等参数的访问链接)进行导入,如:

自定义签名有效时间后,单击[backcolor=transparent]复制文件URL即可获取外部可临时访问的URL。

展开
收起
反向一觉 2017-10-26 13:48:16 1838 分享 版权
阿里云 AI 助理回答

为了将用户作业数据及执行文件有效地导入E-HPC集群,您可以遵循以下步骤操作:

1. 开通与配置OSS

  • 选择区域:确保您在与E-HPC集群相同的地域(如华东1)开通阿里云对象存储服务(OSS)。
  • 创建Bucket:登录OSS管理控制台,创建一个新的存储空间(Bucket),用于存放作业相关文件。

2. 上传作业文件至OSS

  • 使用OSS提供的多种上传方式之一,将您的作业脚本(如test.py)和作业数据(如test.data)上传到刚创建的Bucket中。可以通过OSS管理控制台的网页界面直接上传,或者使用OSS SDK、CLI工具等进行编程式上传。确保文件上传成功且可访问。

3. 导入作业文件至E-HPC集群

  • 登录集群:首先,通过适当的方式登录到您的E-HPC集群。
  • 下载文件:在集群内,您可以使用wgetcurl命令从OSS Bucket下载作业文件。例如:

    wget http://e-hpc-quickstart.vpc100-oss-cn-hangzhou.aliyuncs.com/test.py
    wget http://e-hpc-quickstart.vpc100-oss-cn-hangzhou.aliyuncs.com/test.data
    

    如果系统未安装wget,可以通过包管理器(如yum install wget)安装,或改用curl命令完成下载。

4. 私有Bucket访问策略

  • 对于设置为私有访问权限的Bucket,您需要通过OSS控制台生成带有签名的临时URL来访问文件。在控制台选中文件后,自定义签名有效时间并复制临时URL,然后在集群内使用此URL进行文件下载。这保证了安全性的同时允许临时的数据传输。

注意事项

  • 确保OSS与E-HPC集群位于同一地域以优化数据传输速度和减少费用。
  • 若Bucket中存在同名文件且需避免覆盖,考虑开启OSS版本控制功能或在上传请求中加入防覆盖参数。
  • 在处理大量文件上传时,注意命名规则,避免因名称集中导致的性能瓶颈。

请根据上述指导操作,确保数据安全、高效地从OSS导入到E-HPC集群中。

有帮助
无帮助
AI 助理回答生成答案可能存在不准确,仅供参考
0 条回答
写回答
取消 提交回答