开发者社区 ModelScope模型即服务计算机视觉正文

ModelScope中可以在云服务器部署通义千问，然后调用大模型的API在其他页面输入问题和答案吗？

ModelScope中，可以在云服务器部署通义千问，然后调用大模型的API在其他页面输入和输出问题和答案吗？

展开

收起

超爱吃辣 2023-09-26 22:03:42 171 版权

阿里云 AI 助理回答

是的，在ModelScope中，您可以通过云服务器部署通义千问，并调用其API在其他页面实现问题输入和答案输出的功能。以下是具体的操作步骤和注意事项：

1. 部署通义千问模型

首先，您需要在阿里云的百炼平台上完成通义千问模型的部署： - 注册并开通服务：如果您尚未注册阿里云账号，请先完成注册，并通过主账号开通百炼服务以获取免费额度。 - 创建应用：进入百炼控制台的“我的应用”页面，点击“新增应用”，选择“智能体应用”并直接创建。在应用设置中，选择通义千问系列模型（如通义千问-Plus）作为默认模型。 - 配置Prompt（可选）：您可以根据业务需求设置一些引导性Prompt，例如定义助手的角色或人设。

2. 获取API凭证

为了调用通义千问的API，您需要获取以下凭证： - API Key：在百炼控制台的右上角选择“API-KEY”，创建并保存您的API Key。建议将API Key配置到环境变量中，以降低泄露风险。 - 应用ID：在“我的应用 > 应用列表”中查看并保存应用ID，用于后续API调用。

3. 调用API实现问答功能

通过HTTP请求或SDK调用通义千问API，您可以实现问题输入和答案输出的功能。以下是调用方式的具体说明：

3.1 HTTP请求方式

使用curl命令或任何支持HTTP请求的工具，向DashScope API发送POST请求。以下是一个示例请求：

curl -X POST https://dashscope.aliyuncs.com/api/v1/services/aigc/text-generation/generation \
-H "Authorization: Bearer $DASHSCOPE_API_KEY" \
-H "Content-Type: application/json" \
-d '{
  "model": "qwen-plus",
  "input": {
    "messages": [
      {
        "role": "system",
        "content": "You are a helpful assistant."
      },
      {
        "role": "user",
        "content": "你是谁？"
      }
    ]
  },
  "parameters": {
    "result_format": "message"
  }
}'

响应示例：

{
  "output": {
    "choices": [
      {
        "finish_reason": "stop",
        "message": {
          "role": "assistant",
          "content": "我是来自阿里云的大规模语言模型，我叫通义千问。"
        }
      }
    ]
  },
  "usage": {
    "total_tokens": 38,
    "output_tokens": 16,
    "input_tokens": 22
  },
  "request_id": "87f776d7-3c82-9d39-b238-d1ad38c9b6a9"
}

3.2 SDK调用方式

如果您使用的是Python、Java、Go等编程语言，可以通过对应的SDK调用API。以下是一个Python示例：

import os
from dashscope import Generation

response = Generation.call(
    api_key=os.getenv('DASHSCOPE_API_KEY'),
    model="qwen-plus",
    messages=[
        {"role": "system", "content": "You are a helpful assistant."},
        {"role": "user", "content": "你是谁？"}
    ],
    result_format="message"
)

if response.status_code == 200:
    print(response.output.choices[0].message.content)
else:
    print(f"Error: {response.message}")

4. 在其他页面集成问答功能

要将通义千问的问答功能集成到其他页面，您可以按照以下步骤操作： 1. 后端处理：在您的服务器后端实现API调用逻辑，接收用户输入的问题，并返回模型生成的答案。 2. 前端展示：通过HTML表单或聊天窗口接收用户输入，并将问题发送到后端接口。后端返回的答案可以直接显示在页面上。 3. 优化体验：结合流式输出（Stream）或结构化输出（JSON Mode）等功能，提升用户体验。