问题1:请问今天用git下载魔搭ModelScope的模型,怎么一只出错,试过好几次了,帮忙看下?
paipaidownload_18246@qv20f02gju6v6tq MINGW64 /z/modelscope
$ git clone https://www.modelscope.cn/AI-ModelScope/falcon-7b-instruct.git
Cloning into 'falcon-7b-instruct'...
remote: Enumerating objects: 46, done.
remote: Total 46 (delta 0), reused 0 (delta 0), pack-reused 46
Receiving objects: 100% (46/46), 794.80 KiB | 6.97 MiB/s, done.
Resolving deltas: 100% (11/11), done.
Updating files: 100% (16/16), done.
fatal: Out of memory, realloc failed0 MiB | 417.00 KiB/s
Error downloading object: pytorch_model-00001-of-00002.bin (66acf4b): Smudge error: Error reading from media file: write /dev/stdout: The pipe has been ended.: write /dev/stdout: The pipe has been ended.
Errors logged to '\06c454a671-ura7.cn-hangzhou.nas.aliyuncs.com\myshare\modelscope\falcon-7b-instruct.git\lfs\logs\20230908T165025.4863855.log'.
Use git lfs logs last
to view the log.
warning: Clone succeeded, but checkout failed.
You can inspect what was checked out with 'git status'
and retry with 'git restore --source=HEAD :/'
问题2:那这个下载比较奇怪,为何会占用内存呢,我这台机器内存为8GB。哦,我看到这个下载模型文件大小为9.27GB,超过了8GB
这个其实还挺影响使用的。是否强制上传模型单个文件不大于8GB,甚至更小?
回答1:fatal: Out of memory, realloc failed0 MiB | 417.00 KiB/s
内存不够
回答2:这个是git的行为,在下载lfs对象的时候 最后会进行一些处理,会占用比较多的内存。可以设置 GIT_LFS_SKIP_SMUDGE=1这个环境变量来解决,另外也可以使用魔搭的sdk来下载,也不会有这个问题,此回答整理自钉群“魔搭ModelScope开发者联盟群 ①”
您在尝试通过 Git 克隆 ModelScope 的 Falcon-7B-Instruct 模型时遇到了问题。根据您提供的命令和错误信息,看起来您已经成功地克隆了模型,但是可能遇到了网络问题或 Git 客户端的配置问题。
建议您尝试以下方法来解决这个问题:
git config --global http.proxy http://proxy.example.com:8080
git config --global https.proxy https://proxy.example.com:8080
CopyCopy
请将 proxy.example.com 和 8080 替换为您实际的代理服务器地址和端口。
git clone git@github.com:modelscope/AI-ModelScope.git
CopyCopy