ModelScope不知道如何找到外网访问大模型地址？

在ModelScope中，如果您需要找到外网访问大模型地址，可以按照以下步骤操作：

1. 获取服务的访问地址和Token

在部署模型服务后，您需要获取服务的外网访问地址和Token，这是调用模型服务的关键信息。具体步骤如下： - 登录PAI控制台，选择目标地域和工作空间，进入EAS模型在线服务页面。 - 在服务列表中找到目标服务，单击服务名称进入服务详情页面。 - 在基本信息区域，单击查看调用信息，获取服务的公网访问地址和Token。

2. 配置外网访问白名单（如需）

如果您的业务对安全性要求较高，可能需要配置外网访问白名单以确保能够顺利访问模型服务。以下是相关域名的白名单配置信息： - 如果模型生成的图片存储在阿里云OSS中，您需要将以下OSS域名添加到白名单中：

dashscope-result-bj.oss-cn-beijing.aliyuncs.com
dashscope-result-hz.oss-cn-hangzhou.aliyuncs.com
dashscope-result-sh.oss-cn-shanghai.aliyuncs.com
dashscope-result-wlcb.oss-cn-wulanchabu.aliyuncs.com
dashscope-result-zjk.oss-cn-zhangjiakou.aliyuncs.com
dashscope-result-sz.oss-cn-shenzhen.aliyuncs.com
dashscope-result-hy.oss-cn-heyuan.aliyuncs.com
dashscope-result-cd.oss-cn-chengdu.aliyuncs.com
dashscope-result-gz.oss-cn-guangzhou.aliyuncs.com
dashscope-result-wlcb-acdr-1.oss-cn-wulanchabu-acdr-1.aliyuncs.com

注意：这些域名用于访问存储在OSS中的图片资源，确保您的网络环境允许访问这些域名。

• 如果您的模型服务依赖RDS实例，还需要将以下IP地址添加到RDS实例的白名单中：
  • 公共云：DTS在华北2（北京）区域的所有公网IP地址段，以及百炼知识库的公网IP地址47.94.250.95。
  • 金融云：DTS在金融云上海区域的所有公网IP地址段，以及百炼知识库的公网IP地址139.224.147.146。 重要提示：未正确配置白名单可能导致数据同步失败，请务必仔细检查。

3. 调用模型服务

获取到外网访问地址和Token后，您可以使用以下方式调用模型服务：

方法一：通过WebUI调用

• 在服务部署成功后，单击服务方式列下的查看Web应用。
• 在WebUI页面左侧的测试内容文本框中输入请求数据，单击执行测试，即可在右侧的测试结果文本框中查看返回结果。

方法二：通过API接口调用

• 使用PAI提供的SDK或自行编写代码发送POST请求。示例代码如下：

  import requests
  import json
  
  service_url = 'YOUR_SERVICE_URL'  # 替换为实际的服务访问地址
  token = 'YOUR_SERVICE_TOKEN'      # 替换为实际的服务Token
  
  request_data = {
    "prompt": "浙江的省会是哪里？",
    "history": []
  }
  
  headers = {
    "Authorization": token,
    "Content-Type": "application/json"
  }
  
  response = requests.post(service_url, headers=headers, data=json.dumps(request_data))
  result = response.json()
  print(result['response'])  # 输出模型的回答
  

  注意：请确保service_url和token已正确配置，并根据实际需求构造请求数据。

4. 常见问题排查

• 无法访问外网地址：请检查是否已正确配置白名单，确保您的网络环境允许访问相关域名或IP地址。
• Token无效：请确认Token是否过期或输入错误，必要时重新获取。
• 服务状态异常：在EAS控制台中检查服务状态，确保服务处于运行中状态。

通过以上步骤，您可以顺利找到并配置ModelScope的外网访问地址，确保模型服务正常调用。