请问一下modelscope不接口开放 Java传参需要哪些参数?

请问一下modelscope不接口开放 Java传参需要哪些参数?

展开
收起
小小爱吃香菜 2024-04-23 22:05:08 41 发布于吉林 分享
分享
版权
举报
阿里云 AI 助理回答

在使用ModelScope(魔搭)的接口时,如果通过Java进行传参调用,需要根据具体的API要求提供相应的参数。以下是基于知识库中提供的信息整理出的详细参数说明:


1. Header部分

Header部分是HTTP请求中的头部信息,用于传递元数据和认证信息。以下是常见的Header参数: - Content-Type
- 类型:String
- 必选:是
- 描述:指定请求的内容类型,通常为application/json
- 示例值:application/json

  • Authorization

    • 类型:String
    • 必选:是
    • 描述:用于身份验证的API-Key,格式为Bearer <API-Key>
    • 示例值:Bearer d1**2a
  • X-DashScope-WorkSpace

    • 类型:String
    • 必选:否
    • 描述:指定本次调用使用的Workspace。对于子账号API-Key调用,此参数为必选项;对于主账号API-Key调用,此参数为可选项。
    • 示例值:ws_QTggmeAxxxxx

2. Body部分

Body部分是HTTP请求的主体内容,用于传递具体的业务数据。以下是常见的Body参数: - model
- 类型:String
- 必选:是
- 描述:指定需要调用的模型名称。例如,Llama2-7b-chat-v2baichuan-7b-v1等。
- 示例值:Llama2-7b-chat-v2

  • input.prompt

    • 类型:String
    • 必选:是
    • 描述:用户输入的文本内容,支持中英文。对于不同的模型,可能有长度限制(如7B模型最长不超过2048 tokens)。
    • 示例值:hello, who are you?
  • input.messages

    • 类型:List<Dict>
    • 必选:否(与input.prompt二选一)
    • 描述:用户多轮对话信息输入,适用于支持对话模式的模型(如baichuan2-7b-chat-v1)。每个Dict包含两个键:rolecontent,其中role支持userassistantsystemcontent为对应角色的文本输入。
    • 示例值:
    [
      {"role": "system", "content": "You are a helpful assistant."},
      {"role": "user", "content": "你好,请介绍一下故宫"}
    ]
    
  • parameters.incremental_output

    • 类型:Boolean
    • 必选:否
    • 描述:控制流式输出模式,默认为False。设置为True时,后续输出不会包含已输出的内容,需自行拼接整体输出。
    • 示例值:true
  • parameters.result_format

    • 类型:String
    • 必选:否
    • 描述:指定返回结果的格式,支持text(旧版本)和message(兼容OpenAI格式)。
    • 示例值:text

3. Java代码示例

以下是一个基于Java的调用示例,展示如何传递上述参数:

import com.alibaba.dashscope.common.ApiRequest;
import com.alibaba.dashscope.common.ApiResponse;
import com.alibaba.dashscope.exception.ApiException;

public class ModelScopeExample {
    public static void main(String[] args) {
        try {
            // 设置API-Key
            System.setProperty("DASHSCOPE_API_KEY", "YOUR_DASHSCOPE_API_KEY");

            // 构造请求体
            String requestBody = "{\n" +
                    "  \"model\": \"Llama2-7b-chat-v2\",\n" +
                    "  \"input\": {\n" +
                    "    \"prompt\": \"hello, who are you?\"\n" +
                    "  }\n" +
                    "}";

            // 发起POST请求
            ApiRequest request = new ApiRequest("https://dashscope.aliyuncs.com/api/v1/services/aigc/text-generation/generation");
            request.setHeader("Content-Type", "application/json");
            request.setHeader("Authorization", "Bearer YOUR_API_KEY");
            request.setBody(requestBody);

            ApiResponse response = request.post();
            System.out.println(response.getBody());
        } catch (ApiException e) {
            e.printStackTrace();
        }
    }
}

4. 注意事项

  • API-Key管理:建议将API-Key配置到环境变量中以降低泄漏风险。
  • QPS限制:单账户(含主账号与RAM子账号)的任务下发接口限制QPS为1,并发任务数量限制为3。
  • 模型选择:确保选择的模型名称与实际需求匹配,例如Llama2-7b-chat-v2baichuan-7b-v1
  • 输入格式:根据模型支持的输入格式选择input.promptinput.messages,避免参数错误。

以上即为通过Java调用ModelScope接口所需的参数及示例代码。如有进一步问题,请随时咨询!

有帮助
无帮助
AI 助理回答生成答案可能存在不准确,仅供参考
0 条回答
写回答
取消 提交回答

ModelScope旨在打造下一代开源的模型即服务共享平台,为泛AI开发者提供灵活、易用、低成本的一站式模型服务产品,让模型应用更简单!欢迎加入技术交流群:微信公众号:魔搭ModelScope社区,钉钉群号:44837352

热门讨论

热门文章

还有其他疑问?
咨询AI助理
AI助理

你好,我是AI助理

可以解答问题、推荐解决方案等