AI 助理
备案控制台
开发者社区 ModelScope模型即服务 自然语言处理 正文

GPT3.0再训练后的模型，推导指定长度无效

GPT3.0再训练后的模型，pipeline推导指定长度无效

展开
收起
GPT-3预训练生成模型-中文-1.3B
游客dxgolm6oescps 2023-03-14 15:12:46 590 分享 版权
1 条回答
写回答
取消 提交回答
  • 游客v27yuipodiy5s

    实测1.3B的模型在 config.json 文件中添加 tokens_to_generate 参数可行。不过似乎近期modelscope会更新一个版本，让文本生成模型统一可以在 pipeline 调用时输入 max_length 参数设置最大长度，比如 pipeline('your inputs', max_length=512)

    2023-03-17 18:02:28
    赞同 1 展开评论
相关问答
自然语言处理
如何实例化一个聊天模型，并指定使用GPT-4？
46
1
0
训练一个GPT-3模型大概需要多少计算量和算力？
905
3
0
在GPT等大模型的加持下，新必应带来了哪些变革？
43
2
0
ARTIST模型如何通过GPT生成图像序列？
41
1
0
GPT-4的多模态模型有什么特点？
48
1
0
阿里云百炼模型广场是有GPT模型吗？
85
1
0
如何评价 OpenAI 最新发布支持实时语音对话的模型GPT-4o？
2514
119
0
ModelScope配置里面有gpt-3.5-turbo 这个模型好像调用不了？
246
3
0
Modelscope在EAS部署了一个模型库的模型，是自己训练的GPT3，为什么现在报了这个错误？
137
3
0
在训练输入输出式的gpt3 的时候，推理出现异常
295
1
0
ModelScope模型即服务

自然语言处理

包含命名实体识别、文本分类、分词、关系抽取、问答、推理、文本摘要、情感分析、机器翻译等多个领域

我要提问

相关文章

  • 《AI与NLP：开启元宇宙社交互动新纪元》
  • ComfyUI-Copilot：阿里把AI助手塞进ComfyUI：一句话生成工作流，自动布线/调参/选模型，小白秒变大神！
  • 自动查文献+写代码+跑数据+出报告！港大开源 Auto Deep Research 搞定科研全流程
  • TPO：告别微调！这个AI框架让大模型实时进化：无需训练直接优化，输入问题越用越聪明，输出质量暴涨50%
  • FlashMLA：DeepSeek最新开源！MLA解码内核让NVIDIA Hopper开启性能狂暴模式，推理速度飙升至3000GB/s

    • 热门讨论

    热门文章

  • open webui的RAG功能根本用不起来
  • 请问微调开元模型qwe1.5b 和 7b 分别支持数据集的上下文长度是多少个汉字/token？
  • ollama+open-webui的一个小问题
  • gpt3,加载数据时，MsDataset.load报错
  • modelscope-funasr的 sense voice和funasr的底层asr能力是一样吗？
  • modelscope-funasr在安卓平台可以集成sense voice吗？
  • modelscope-funasr在AutoModel里设置了关闭了，结果还是会打日志，为什么？
  • 如何下载llama模型到本地？
  • 使用chatglm2-6b模型报错。请问什么原因？怎么修改
  • modelscope-funasr用java开发代码，接口要怎么调用？
    • 展开全部
  • KTransformers：告别天价显卡！国产框架让单卡24G显存跑DeepSeek-R1 671B大模型：推理速度飙升28倍
  • 手把手教你使用 Ollama 和 LobeChat 快速本地部署 DeepSeek R1 模型，创建个性化 AI 助手
  • 智胜未来：国内大模型+Agent应用案例精选，以及主流Agent框架开源项目推荐
  • AutoAgents：比LangChain更激进的AI开发神器！自然语言生成AI智能体军团，1句话搞定复杂任务
  • Cline：29.7K Star！一文详解VSCode最强开源AI编程搭子：一键生成代码+自动跑终端+操控浏览器...
  • DeepSeek Artifacts：在线实时预览的前端 AI 编程工具，基于DeepSeek V3快速生成React App
  • DeepSeek-V2.5-1210 在线开放使用！支持联网搜索，在各大领域的表现得到全面提升
  • Kiln AI：零代码实现微调模型！自动生成合成数据与微调模型的开源平台
  • PsycoLLM：开源的中文心理大模型，免费 AI 心理医生，支持心理健康评估与多轮对话
  • Unsloth：学生党福音！开源神器让大模型训练提速10倍：单GPU跑Llama3，5小时变30分钟
    • 展开全部
    还有其他疑问?
    咨询AI助理