ModelScope请问最大输入长度4k指的是4kb大小吗？
ModelScope请问最大输入长度4k指的是4kb大小吗？ 怎么理解呢？比如codegeex2最大支持4k的输入是不是指的最大输入内容大小不能超过4kb？
展开
收起
1
条回答
写回答
写回答
-
"应该是token ，可以理解成大致是4k个汉字，但由于常用词合并等情况，转成汉字的字数后与4k有偏差。方便的话，您可以在这打断点看一下。
https://github.com/modelscope/swift/blob/main/swift/llm/sft.py#L168
参考swift下这个脚本调整一下 https://github.com/modelscope/swift/blob/main/examples/pytorch/llm/scripts/baichuan2_7b_chat/lora_ddp_ds/sft.sh 此回答整理自钉群“魔搭ModelScope开发者联盟群 ①”"2023-12-18 21:42:34赞同 展开评论 打赏
相关问答
热门讨论
热门文章
ModelScope中，模型下载默认路径在哪个路径？
9917
com/action/joingroup?code=v1是什么意思
7396
我希望通过damo-YOLO训练1500*1500的图片
8784
服务器上onnxruntime-gpu 调用结束，如何释放显存
5341
ModelScope中，大佬们4卡跑lora时，遇到这样的错，怎么解决？
2042
ModelScope中我尝试使用这个模型搭建了一个推理服务，然后报错了怎么办？
3564
modelscope cache 环境变量是啥？
2807
streamlit 生成链接无法访问，gradio只生成内网，无法生成公网
2736
ModelScope-Agent-7B本地加载模型，需要多少gpu显存呢？
812
请问在 ModelScope 上的模型断网使用报这个错误啥原因了?
2298
展开全部
Sketch2Lineart：AI绘画工具，自动将手绘草图转换成清晰的线条画
74
EchoMimicV2：阿里推出的开源数字人项目，能生成完整数字人半身动画
50
LTX Video：Lightricks推出的开源AI视频生成模型
49
关键点检测从入门到进阶
1332
Fancy123：华中科技和华南理工推出的3D网格生成技术
32
OneDiffusion：无缝支持双向图像合成和理解的开源扩散模型
28
iDP3：斯坦福大学联合多所高校推出的改进型3D视觉运动策略
25
ViewExtrapolator：南洋理工联合UCAS团队推出的新型视图合成方法
24
SAM 2.1：Meta 开源的图像和视频分割，支持实时视频处理
23
OminiControl：AI图像生成框架，实现图像主题控制和空间精确控制
23
展开全部
