备案控制台

为了利利_个人页

个人头像照片 为了利利
个人头像照片
文章
0
问答
1555
视频
0

个人介绍

暂无个人介绍

擅长的技术

获得更多能力
通用技术能力：

暂时未有相关通用技术能力~

云产品技术能力：

暂时未有相关云产品技术能力~

阿里云技能认证

详细说明
暂无更多信息

2024年05月

正在加载, 请稍后...
暂无更多信息
  • 回答了问题 2024-05-15

    ModelScope中，用swift推理比modelscope原生的快多少？

    swift可以选vllm加速。前面您的代码可能是从hf下载模型，不是从modelscope下载模型。 此回答整理自钉群“魔搭ModelScope开发者联盟群 ①”

    踩0 评论0
  • 回答了问题 2024-05-15

    ModelScope中，调用工具返回的信息 是不是有字数限制？

    eval用的token级别的acc，和您的不一样。评测您看下这个文档，https://github.com/modelscope/swift/blob/main/docs/source/LLM/LLM%E8%AF%84%E6%B5%8B%E6%96%87%E6%A1%A3.md 此回答整理自钉群“魔搭ModelScope开发者联盟群 ①”

    踩0 评论0
  • 回答了问题 2024-05-15

    ModelScope中，在910B微调，报错，帮忙看一下呢？

    参考以下链接 python3 -c "import torch;import torch_npu;print(torch_npu.npu.is_available())" 您在以下文档中找下哈，参考以下链接https://www.hiascend.com/document/detail/zh/canncommercial/70RC1/envdeployment/instg/instg_0085.html 此回答整理自钉群“魔搭ModelScope开发者联盟群 ①”

    踩0 评论0
  • 回答了问题 2024-05-15

    ModelScope中，根据是否存在这个环境变量去检测，是否存在config文件？

    peft.utils.other.py 564行 此回答整理自钉群“魔搭ModelScope开发者联盟群 ①”

    踩0 评论0
  • 回答了问题 2024-05-15

    ModelScope中，离线模型是不是需要设置 环境变量 ？

    不用设置 环境变量 HF_HUB_OFFLINE=1 此回答整理自钉群“魔搭ModelScope开发者联盟群 ①”

    踩0 评论0
  • 回答了问题 2024-05-15

    ModelScope中，通过什么工具可以打开，打开这个数据集还要密码吗?

    数据集卡片上有代码。此回答整理自钉群“魔搭ModelScope开发者联盟群 ①”

    踩0 评论0
  • 回答了问题 2024-05-15

    ModelScope中，lora可以微调qwen1.5-14b-chat的awq、gptq量化模型？

    参考以下链接 https://github.com/modelscope/swift/blob/main/examples/pytorch/llm/scripts/qwen_14b_chat_int4/qlora_ddp_ds/sft.sh 此回答整理自钉群“魔搭ModelScope开发者联盟群 ①”

    踩0 评论0
  • 回答了问题 2024-05-15

    modelscope-agent的文档有链接吗？

    参考以下链接 https://github.com/modelscope/modelscope-agent/blob/master/docs/local_deploy.md 此回答整理自钉群“魔搭ModelScope开发者联盟群 ①”

    踩0 评论0
  • 回答了问题 2024-05-15

    ModelScope中，图中报错怎么处理？

    这个脚本默认是多卡，您改成单卡试试。此回答整理自钉群“魔搭ModelScope开发者联盟群 ①”

    踩0 评论0
  • 回答了问题 2024-05-15

    ModelScope中，使用的是qwen1half-7b-chat，第一次跑通了，这是为什么？

    一般这种报错是显存不够。此回答整理自钉群“魔搭ModelScope开发者联盟群 ①”

    踩0 评论0
  • 回答了问题 2024-05-15

    ModelScope中，accelerate那边用的是哪个版本？

    0.26.1 此回答整理自钉群“魔搭ModelScope开发者联盟群 ①”

    踩0 评论0
  • 回答了问题 2024-05-15

    ModelScope中模型的训练，这个怎么解决一下啊？

    您换7b模型试试，32b的跑训练显存不够，您先用小一些的模型跑通。 此回答整理自钉群“魔搭ModelScope开发者联盟群 ①”

    踩0 评论0
  • 回答了问题 2024-05-15

    Notebook笔记本上安装相应的组件，提示这个是什么问题？

    重装一下torch看看。此回答整理自钉群“魔搭ModelScope开发者联盟群 ①”

    踩0 评论0
  • 回答了问题 2024-05-15

    ModelScope中，中途报错，又重新上传，怎么解决？

    可以直接上传 不用压缩，这样传输稳定些，如果有问题lfs会对单个文件重试，另外这么大文件压缩和解压缩也比较耗时。此回答整理自钉群“魔搭ModelScope开发者联盟群 ①”

    踩0 评论0
  • 回答了问题 2024-05-15

    ModelScope最大支持上传单一文件是多大？

    50G应该是可以的。 此回答整理自钉群“魔搭ModelScope开发者联盟群 ①”

    踩0 评论0
  • 回答了问题 2024-05-15

    ModelScope中，哪个模型的识别率高呢？

    以前有开发者对比过tf版本的识别效果好一些。您用您的图片测试一下。 此回答整理自钉群“魔搭ModelScope开发者联盟群 ①”

    踩0 评论0
  • 回答了问题 2024-05-15

    ModelScope中，GPT_data'这个是为什么？

    swift拉最新代码安装一下。参考以下链接 https://github.com/modelscope/swift/blob/main/docs/source/LLM/%E8%87%AA%E5%AE%9A%E4%B9%89%E4%B8%8E%E6%8B%93%E5%B1%95.md 此回答整理自钉群“魔搭ModelScope开发者联盟群 ①”

    踩0 评论0
  • 回答了问题 2024-05-15

    ModelScope中，infer_backend 取值'vllm' 和 ‘pt’对答案有影响吗？

    一般对准确率不影响。 此回答整理自钉群“魔搭ModelScope开发者联盟群 ①”

    踩0 评论0
  • 回答了问题 2024-05-15

    ModelScope中，如果我想对接外部的api ,或者把自己的模型包装成api 来使用，支持吗？

    有的，参考以下链接。 https://github.com/modelscope/modelscope-agent/tree/master/examples/tools 此回答整理自钉群“魔搭ModelScope开发者联盟群 ①”

    踩0 评论0
  • 回答了问题 2024-05-15

    ModelScope中，如果cli的方式命令行直接--dataset ms-bench就好嘛？

    是的，直接--dataset pai_identity.jsonl,ms-bench就好。 此回答整理自钉群“魔搭ModelScope开发者联盟群 ①”

    踩0 评论0
正在加载, 请稍后...
滑动查看更多
正在加载, 请稍后...
暂无更多信息