开发者社区 > 云原生 > 正文

云原生 AI 套件中Kserve创建InferenceService服务,如何绕过外网域名解析?

云原生 AI 套件中Kserve创建InferenceService服务,如何绕过外网域名解析?我使用Kserve创建InferenceService服务遇到 lookup index.docker.io on 169.254.20.10:53: server misbehaving
具体信息如下59d424024e26a8790ab8f4cfd9f81af7.png

展开
收起
三分钟热度的鱼 2024-01-10 14:24:23 59 0
2 条回答
写回答
取消 提交回答
  • 面对过去,不要迷离;面对未来,不必彷徨;活在今天,你只要把自己完全展示给别人看。

    要绕过外网域名解析,您可以尝试以下方法:

    1. 使用内网DNS服务器。在创建InferenceService服务时,可以通过设置--dns-server参数来指定内网DNS服务器的地址。例如:
    kserve create inferenceservice --name my-model --image gcr.io/my-project/my-model:v1 --port 8080 --dns-server 192.168.1.100
    
    1. 使用本地文件系统。将模型镜像从远程仓库下载到本地,然后使用本地文件系统的路径创建InferenceService服务。例如:
    docker pull gcr.io/my-project/my-model:v1
    kserve create inferenceservice --name my-model --image /path/to/my-model:v1 --port 8080
    
    1. 修改Docker配置。在Docker配置文件(如/etc/docker/daemon.json)中添加insecure-registries字段,以允许Docker访问内网域名。例如:
    {
      "insecure-registries": ["192.168.1.0/24"]
    }
    

    然后重启Docker服务:

    sudo systemctl restart docker
    

    这样,Docker就可以访问内网域名了,创建InferenceService服务时应该不会再出现域名解析问题。

    2024-01-13 15:37:13
    赞同 展开评论 打赏
  • 在使用云原生AI套件中的Kserve创建InferenceService服务时,如果遇到lookup index.docker.io on 169.254.20.10:53: server misbehaving的错误,这通常是由于DNS解析出现问题导致的。在这种情况下,你可能需要配置内部DNS解析来绕过外网域名解析。

    以下是一些可能的解决方案:

    1. 配置内部DNS解析:确保你的集群配置有内部DNS解析,这样可以避免通过公网进行DNS解析,从而解决因网络不稳定或DNS服务器不可达导致的问题。你可以配置一个内部DNS服务器,例如使用CoreDNS,并将其部署在Kubernetes集群中。

    2. 使用自定义DNS服务器:如果你的集群配置了自定义的DNS服务器,你需要确保这个服务器能够解析所需的域名。你可以配置Kubernetes集群的dnsConfig来指定自定义的DNS服务器。

    3. 配置DNS解析策略:在创建InferenceService时,你可以指定DNS解析策略,例如使用内部DNS解析或指定特定的DNS服务器。

    4. 检查Kserve控制平面:确保Kserve的控制平面配置正确,并且能够与模型服务器和推理服务进行通信。

    5. 更新Kserve版本:如果问题仍然存在,可以考虑更新到Kserve的最新版本,有时候版本更新会包含对已知问题的修复。

    6. 查看日志:检查相关的日志文件,如Kserve控制平面的日志,以及模型服务器和推理服务的日志,以便获取更多关于错误的详细信息。

    7. 联系支持:如果以上方法都无法解决问题,建议联系阿里云技术支持获取更专业的帮助。

    在处理此类问题时,确保你遵循了云原生AI套件和Kserve的最佳实践和安全准则,以避免潜在的安全风险。

    2024-01-13 09:05:20
    赞同 展开评论 打赏

阿里云拥有国内全面的云原生产品技术以及大规模的云原生应用实践,通过全面容器化、核心技术互联网化、应用 Serverless 化三大范式,助力制造业企业高效上云,实现系统稳定、应用敏捷智能。拥抱云原生,让创新无处不在。

相关电子书

更多
释放算力潜能加速应用构建Serverless为AI创新提速 立即下载
智算时代,基于 Kubernetes 落地云原生 AI 立即下载
AI让数据库的路走的“更快更远” 立即下载

相关镜像