7 月 23 日,Meta 开源最新 Llama 3.1 系列,包括备受关注的 4050 亿参数“超大杯”模型。阿里云百炼第一时间上架全系列 3 款模型,在国内首家推出针对 Llama 3.1 系列的训练、部署、推理服务,企业和开发者即日起可在阿里云百炼上基于其打造自己的专属大模型。
入口:模型广场
Llama 3.1 系列是Meta推出的最新一代开源大语言模型,其 405B 版本是首个媲美顶级商业模型的开源大语言模型
- Llama 3.1 系列包括 80 亿、700 亿、4050亿参数版本,上下文长度扩展至 128K tokens,并增加了对八种语言的支持。其中“超大杯”4050 亿参数版本,是目前最大规模的开源大模型,在各项测评中能力表现突出,不过由于模型尺寸极大,本地开发部署难度极高。
模型接口文档:API 详情
- 阿里云百炼平台推出针对 Llama 3.1 全系列的一键再训练、部署、推理方案,且限时30天为所有新老用户提供免费算力额度100万tokens。企业和开发者可在阿里云百炼模型广场申请使用,通过后即可快速体验 Llama 3.1 效果,并与其他模型进行直观比较。
- 希望直接进行推理应用的用户,可在百炼上点击模型调试、prompt 模版等功能,快速基于 Llama 3.1 打造自己的 AI 助手。希望深度开发的企业,后续Llama 3.1 系列模型支持应用上的调用后,可结合企业数据集,一键启动 SFT 全参训练或 LoRA 高效训练,并利用百炼 RAG 检索增强、智能体打造等能力进行应用开发。
- 百炼平台在云上开发和使用大模型具有诸多优势。融合了阿里云获评产品力全球第二的 AI 基础设施能力,企业和开发者能获得丰富的 AI 计算资源和极致弹性,轻松完成对超大模型的深度开发、高效部署和高并发推理。在基础设施层,阿里云灵骏智算集群具备高达十万卡 GPU 的扩展性;在 AI 平台层,人工智能平台 PAI 可 10 倍提升大模型训练性能,并稳定运行千卡任务 5 周以上;在模型即服务层面,阿里云打造了国内最大规模的模型服务平台百炼,提供从大模型选型、体验到再训练、部署、应用、推理的一站式服务。
计费模式:限时免费中
- 免费额度:100万tokens
- 有效期:30天
- 享受用户:新老用户均自动享有本次免费额度。
目前Llama 3.1系列模型处于限时免费中,抓紧去体验吧~~
欢迎大家在评论区交流探讨调用Llama 3.1 系列模型的体验与经验 。如果您在体验过程中有遇到什么问题需要我们解答,也可以在评论区中留言探讨!