AI Earth训练好的模型可以部署到我本地服务器吗？

AI Earth模型是否支持本地服务器部署？

根据现有资料，AI Earth支持私有化部署，这意味着您可以将训练好的模型部署到本地服务器或企业内部环境。如果您希望将模型部署到本地服务器，可以通过以下方式实现：

1. 私有化部署方案
   您可以联系阿里云AI Earth团队（通过产品邮箱 aiearth@service.aliyun.com 或加入钉钉群：群号32152986）获取免费的私有化部署方案和相关技术支持。

   • 私有化部署适用于需要在本地服务器或企业内网环境中运行模型的场景，能够更好地保障数据隐私和安全性。

2. 本地部署的技术支持
   根据相关文档，大模型支持本地部署的方式包括：

   • 个人设备或家庭服务器上的个人大模型：利用本地存储的数据进行推理和学习，确保数据隐私不外泄。
   • 企业内部的大模型：使用企业内部智能设备、边缘计算提取的数据或私有云端的知识库进行推理和优化，适合特定业务场景。
   • 基于阿里云ECS实例部署开源大模型：如果您的本地服务器资源有限，也可以通过阿里云ECS实例结合技术手段（如xFasterTransformer）实现高效部署。

因此，AI Earth训练好的模型是可以部署到本地服务器的，但具体实施需要根据您的硬件环境和业务需求定制方案。

如果无法部署到本地，部署到AI Earth服务器的收费情况

如果您选择将模型部署到AI Earth服务器而非本地服务器，以下是相关的收费信息和使用方式：

1. 模型在线服务（EAS）计费
   部署到AI Earth服务器后，您将使用模型在线服务（EAS），其费用主要由以下部分构成：

   • 资源组种类：可以选择公共资源组或专属资源组。专属资源组通常提供更高的性能和稳定性，但费用相对较高。
   • 资源配置选择：根据模型的复杂度和推理需求，选择合适的实例规格（如CPU/GPU配置）。建议所选规格的算力高于默认配置，否则可能影响性能。
   • 计费模式：EAS支持按量付费和包年包月两种模式，具体费用可参考[模型在线服务（EAS）计费说明]。

2. 分布式训练（DLC）计费
   如果您需要对模型进行微调或增量训练，将涉及分布式训练（DLC）费用。费用取决于：

   • 节点数量：当前镜像和规格的节点数量。
   • 资源规格：对于参数量较大的模型（如Qwen-72B），可能需要使用显存更大的GPU（如灵骏智算资源GU100、GU108机型）。普通用户可通过竞价资源方式享受优惠，最低可至1折。

3. 其他费用

   • OSS存储费用：模型文件和训练数据需要存储在OSS中，会产生一定的存储费用。
   • NAS/CPFS存储费用：如果使用NAS或CPFS等文件存储保存模型，也会产生额外费用。

总结与建议

• 本地部署：AI Earth支持私有化部署，您可以将模型部署到本地服务器。建议联系阿里云团队获取具体的部署方案和技术支持。
• 云端部署：如果选择部署到AI Earth服务器，费用主要包括模型在线服务（EAS）和分布式训练（DLC）的资源使用费用。具体费用需根据实际使用的资源配置和时长计算。

如有进一步需求，请随时联系阿里云团队以获取更详细的指导和支持。