开发者社区 > 弹性计算 > 云服务器ECS > 正文

在云上部署ChatGLM2-6B大模型(GPU版)这个实验,最后无法访问网址

You can now view your Streamlit app in your browser.

Local URL: http://localhost:8501
Network URL: http://172.18.4.13:8501
External URL: http://8.154.36.124:8501

访问:http://8.154.36.124:8501/
提示:404:Not Found

展开
收起
时允田 2024-09-07 12:57:55 72 0
2 条回答
写回答
取消 提交回答
  • 需要等几分钟。

    等待大约2-3分钟后,模型开始运行。出现如下界面。可以开始输入提示词,与模型对话。可以看待,模型的标题,变成了定制化的标题:我的ChatGLM2-6B。

    887c7821f3ad944e44bf31c8b0d82596_ovurciethbfzk_6513a423d68a44c783d611b7ed01e72d.png

    参考文档https://developer.aliyun.com/adc/scenario/exp/f3dc63dc55a543c3884b8dbd292adcd5?spm=a2c6h.13858375.0.i2.aff14c79Jko5JC

    2024-09-09 08:59:49
    赞同 63 展开评论 打赏
  • 遇到访问URL时出现404错误,意味着服务器没有找到您请求的资源。针对您部署的ChatGLM2-6B大模型(GPU版)实验,这个问题可能是由以下几个原因造成的:

    1. 端口未正确开放:确保您的服务器或云服务提供商的安全组规则已经为8501端口添加了允许外部访问的规则。如果没有正确配置,外部访问将被拒绝。

    2. 防火墙设置:除了云服务的安全组,还要检查服务器自身的防火墙设置是否允许8501端口的进出流量。

    3. 应用未正确启动或监听:确认Streamlit应用程序是否已成功启动并在预期的IP地址及端口上监听。有时候,应用程序可能因为配置错误、资源不足或其他异常未能正确运行。

    4. IP地址问题:您提供的http://8.154.36.124:8501/是一个公网IP地址,但请确保这个IP地址确实是您部署服务器的外部可访问地址,并且Streamlit应用正在该IP上运行。有时,本地开发环境中的网络地址(如localhost或内网IP)不会从外部网络可访问。

    5. 容器或服务映射问题:如果您是在Docker容器中部署的,确保容器的端口映射设置正确。比如,使用docker run命令时应包含-p 8501:8501来映射宿主机的8501端口到容器的8501端口。

    解决步骤建议:

    • 检查日志:查看Streamlit应用的日志输出,这通常能提供应用是否启动成功以及运行时遇到的任何错误的线索。
    • 验证网络配置:检查云服务提供商的安全组设置和服务器的防火墙规则。
    • 确认应用状态:确保Streamlit应用正确安装并按照预期在指定端口上运行。
    • 重新启动应用:如果有必要,尝试停止并重新启动您的Streamlit应用,有时候简单的重启就能解决一些临时性的问题。
    • 检查IP地址和端口映射:确保外部访问的IP地址正确无误,且端口映射设置正确。

    如果以上步骤都无法解决问题,可能需要更详细地检查部署脚本或与云服务提供商的技术支持联系,以获取更具体的帮助。

    2024-09-07 22:44:59
    赞同 62 展开评论 打赏

云服务器ECS是一种安全可靠、弹性可伸缩的IaaS级云计算服务。在这里你可以获取最新的ECS产品资讯、最前沿的技术交流以及优惠活动等信息,加速自己的技术成长。

相关产品

  • GPU云服务器
  • 相关电子书

    更多
    DeepStream: GPU加速海量视频数据智能处理 立即下载
    阿里巴巴高性能GPU架构与应用 立即下载
    GPU在超大规模深度学习中的发展和应用 立即下载