在ModelScope中，那个local_URL我打不开，可以在哪里对他做修改吗？

在ModelScope中，如果您无法通过local_URL访问服务，可以通过以下方式对其进行修改或调整。以下是详细的操作步骤和说明：

1. 确认服务部署状态

首先，确保您的服务已经成功部署，并且服务状态为“运行中”。如果服务未正确启动，local_URL将无法正常访问。

• 登录阿里云PAI控制台。
• 进入EAS（弹性推理服务）页面，检查目标服务的状态是否为“运行中”。
• 如果服务状态异常，请重新部署服务或查看日志排查问题。

2. 修改服务的访问地址

如果需要修改local_URL，可以通过以下方式调整服务的访问配置：

方法一：通过PAI控制台修改

1. 进入服务详情页面：
   • 在PAI控制台的EAS页面，找到目标服务，点击服务名称进入服务详情页面。
2. 修改服务端口或访问方式：
   • 检查服务的端口配置，默认情况下local_URL使用的是http://0.0.0.0:7860。
   • 如果需要更改端口，可以在服务配置中调整restful-port参数。
   • 修改完成后，重新部署服务以使更改生效。

方法二：通过环境变量调整

如果您是通过自定义镜像部署的服务，可以在环境变量中指定服务的监听地址和端口： - 在部署时添加或修改以下环境变量： - LISTEN_ADDRESS：设置服务监听的地址（例如0.0.0.0）。 - PORT：设置服务监听的端口号（例如7860）。 - 示例命令：

arena serve custom \
-name=modelscope \
-version=v1 \
-gpus=1 \
-replicas=1 \
-restful-port=8080 \  # 修改端口为8080
-image=kube-ai-registry.cn-shanghai.cr.aliyuncs.com/kube-ai/quick-deploy-llm:v1 \
"MODEL_ID=qwen/Qwen1.5-4B-Chat python3 server.py"

3. 启用公网访问

默认情况下，local_URL仅支持内网访问。如果您希望通过外部浏览器访问服务，可以启用公网访问功能：

1. 在PAI控制台启用公网访问：
   • 在服务详情页面，找到“网络配置”选项。
   • 开启“公网访问”开关，并获取公网访问地址。
2. 通过代码启用公网访问：
   • 在启动Web UI时，设置share=True参数：

     !export USE_MODELSCOPE_HUB=1 && \
     llamafactory-cli webui --share=True
     

   • 启动后，系统会返回一个公网可访问的URL。

4. 检查防火墙和网络配置

如果修改后仍然无法访问，请检查以下内容： - 防火墙规则：确保服务器的安全组规则允许外部访问指定端口（例如7860或8080）。 - 本地网络限制：确认您的本地网络没有阻止对目标IP和端口的访问。

5. 重要提醒

• 默认地址限制：http://0.0.0.0:7860仅为内网访问地址，无法直接通过外部浏览器打开。
• 公网访问安全性：启用公网访问时，请确保设置了适当的访问权限和Token验证，避免服务被未授权用户调用。
• 端口冲突：如果修改端口，请确保新端口未被其他服务占用。

通过以上步骤，您可以成功修改或调整local_URL的访问方式。如果仍有问题，请提供具体的错误信息以便进一步排查。