开发者社区 > 弹性计算 > 云服务器ECS > 正文

oss 挂载到ecs后, 使用git pull拉取线上仓库,文件会被截断,找了issues,没看到

已解决

oss 挂载到ecs后, 使用git pull拉取线上仓库,文件会被截断,找了issues,没看到

image.png

展开
收起
带刀切图 2023-05-17 15:49:26 66416 0
5 条回答
写回答
取消 提交回答
  • 公众号:网络技术联盟站,InfoQ签约作者,阿里云社区签约作者,华为云 云享专家,BOSS直聘 创作王者,腾讯课堂创作领航员,博客+论坛:https://www.wljslmz.cn,工程师导航:https://www.wljslmz.com
    推荐回答

    可能是因为 OSS 挂载到 ECS 后的文件系统限制了文件大小。默认情况下,OSSFS 文件系统对单个文件的大小限制为 5GB。

    为了解决这个问题,您可以尝试在挂载时指定 --enable-multipart 选项,以启用分片上传和下载功能。这样可以将大文件分成多个部分上传或下载,并在本地文件系统上重新组合它们。这样可以避免单个文件大小限制的问题。

    以下是一个挂载 OSS 到 ECS 的示例命令,其中包括 --enable-multipart 选项:

    ossfs bucketname /mnt/oss -ourl=http://oss-cn-hangzhou.aliyuncs.com -oallow_other -oenable_multipart
    

    如果您已经挂载了 OSS 文件系统并且无法重新挂载,您可以尝试使用其他方法来解决这个问题。例如,您可以使用 git clone 命令将代码库克隆到本地目录中,然后使用 rsync 命令将本地目录中的文件同步到挂载的 OSS 文件系统中。

    2023-05-17 16:09:05
    赞同 1 展开评论 打赏
  • 月移花影,暗香浮动

    如果您将OSS挂载到ECS后,git pull拉取线上仓库时出现文件截断的问题,可能的原因是由于OSS挂载到ECS上的目录并不支持类似其他文件系统的文件锁功能,而 Git 对一个文件的写入需要文件锁的支持,所以当多个线程同时在写入同一个文件时,就容易发生文件截断的情况。

    为了解决这个问题,可以在 ECS 中 clone 代码库并构建应用程序,然后再将构建后的应用程序上传到 OSS 上。这样,以后上传新版本时,只需要上传新的二进制文件而不是通过 git clone 和编译构建的方式,避免了多个线程同时写入同一个文件的问题。另外,上传文件时最好选择 multipart 模式,以支持大文件的上传。

    2023-05-29 10:12:00
    赞同 展开评论 打赏
  • 如果您使用OSS的 FUSE(文件)或者NAS等系统将 OSS 文件系统挂载到 ECS 上,并且在 ECS 中使用git pull命令拉取线上仓库,则可能出现文件被截断的情况。

    这是由于挂载的文件系统(OSS)并不支持所有的文件系统操作类型,例如:一些文件系统操作可能需要进行更改,而这些更改在OSS文件系统中是不支持的,因此可能会导致数据丢失或文件被截断的情况。此外,OSS 本身也不支持文件系统的锁定操作,因此也有可能出现文件被同时修改的问题。

    为了解决这个问题,您可以使用OSS提供的 SDK/CLI 进行操作,这些工具可以直接连接OSS并操作文件。另外,您还可以使用OSS 提供的服务器端加密服务进行数据加密,以保证数据的安全。

    此外,如果您需要在 ECS 中使用Git操作您的代码仓库,我们建议您使用Git的HTTPS协议来克隆代码库,然后在ECS上进行管理和修改。使用HTTPS协议的好处是不需要挂载 OSS 文件系统,而是直接通过网络连接远程的Git仓库进行代码拉取和管理。

    2023-05-20 16:47:22
    赞同 展开评论 打赏
  • 这个一般是被oss限制了文件大小,可以在oss那边配置下权限

    2023-05-17 16:23:40
    赞同 展开评论 打赏
  • CSDN全栈领域优质创作者,万粉博主;InfoQ签约博主;华为云享专家;华为Iot专家;亚马逊人工智能自动驾驶(大众组)吉尼斯世界纪录获得者

    如果您将OSS挂载到ECS上后,使用Git pull从线上仓库拉取文件时出现截断的情况,可能是因为您使用的是默认的OSS存储桶访问权限,而该权限不支持大文件上传和下载。

    为了解决这个问题,您需要在OSS存储桶中创建一个专门用于存放大文件的目录,并对该目录授予适当的访问权限。具体步骤如下:

    1. 在OSS控制台中创建一个新的存储桶或选择一个现有的存储桶。

    2. 在存储桶中创建一个新的目录,例如 largefiles

    3. 为该目录授予适当的访问权限。您可以选择公共读写权限或私有读写权限,具体取决于您的需求。

    4. 在ECS实例上挂载该目录作为本地磁盘。您可以使用命令 mount 将该目录挂载到ECS实例的指定目录下。

    5. 在ECS实例上配置Git以使用挂载的目录作为大文件存储位置。您可以在Git的全局配置中添加以下行:

    
    [core]
    safecrlf = false
    [storage "s3"]
    bucket = your-bucket-name
    endpoint = your-endpoint-url
    access_key_id = your-access-key-id
    secret_access_key = your-secret-access-key
    region = your-region
    path = largefiles/
    git_upload_pack = true
    git_receive_pack = true
    git_upload_filecache = true
    git_lfs = true
    [pack]
    include = path/to/largefile.txt
    
    

    其中,your-bucket-name 是您的OSS存储桶名称,your-endpoint-url 是您的OSS存储桶终端节点URL,your-access-key-idyour-secret-access-key 是您的OSS访问密钥ID和密钥Secret,your-region 是您的AWS区域,path = largefiles/ 是您的存储桶中的目录路径,path/to/largefile.txt 是您要上传的大文件路径。

    完成上述步骤后,您应该能够成功地从线上仓库拉取大文件并避免截断的问题。

    2023-05-17 16:10:56
    赞同 展开评论 打赏

云服务器ECS是一种安全可靠、弹性可伸缩的IaaS级云计算服务。在这里你可以获取最新的ECS产品资讯、最前沿的技术交流以及优惠活动等信息,加速自己的技术成长。

相关产品

  • 云服务器 ECS
  • 相关电子书

    更多
    OSS运维进阶实战手册 立即下载
    《OSS运维基础实战手册》 立即下载
    OSS运维基础实战手册 立即下载