ModelScope中,想请教一下,我们灵积模型api里面 入参只有这些吗,比如温度、topk这类大模型参数怎么传
在ModelScope的灵积模型服务中,除了常见的参数之外,一些特定的大模型参数,例如温度(temperature)和topk也可以通过API进行设定。具体来说,您可以通过设置"func_name": "set_args", "args": {"intent": "TTS", "parameters": {"Speech": {"description": "未指定", "language": "中文", "gender": "男", "age": "青年", "character": "自信", "emotion": "中立", "field": "交互"}, "bgm": {"type": "中性", "name": ""}, "content": "这是一个测试文本。"}}}
llama2 模型目前没支持这些参数的透传。这些参数目前主要在千问模型上支持的比较完备——此回答整理自钉群:魔搭ModelScope开发者联盟群 ①