社区供稿 | OpenVINO™ 助力 Qwen 2 —— 开启大语言模型新时代

简介: 就在刚刚,阿里魔搭社区发布了全新的 Qwen 2 系列模型 ,作为 Qwen 及魔搭社区的重要合作伙伴,OpenVINO™ 一直致力于赋能开发者高效搭建人工智能解决方案,助力大规模语言模型的性能提升和应用扩展。

image.png

就在刚刚,阿里魔搭社区发布了全新的 Qwen 2 系列模型 ,作为 Qwen 及魔搭社区的重要合作伙伴,OpenVINO™ 一直致力于赋能开发者高效搭建人工智能解决方案,助力大规模语言模型的性能提升和应用扩展。

接下来,由小编来为大家介绍本次 Qwen 2 的发布亮点并全面讲解  OpenVINO™ 对于 Qwen 2 的强力支持。

image.png

Qwen 2 是阿里云发布的最新大语言模型系列,涵盖了从  5 亿 到  720 亿参数 的模型。据阿里云介绍,Qwen 2 在一系列针对语言理解、语言生成、多语言能力、编程、数学和推理的基准测试中,都展现出了不错的能力。为了充分发挥这些模型的潜力,OpenVINO™ 提供了以下支持:

1. 高效推理加速:OpenVINO™ 通过其优化的推理引擎,显著提升了 Qwen 2 在各种硬件平台上的推理性能。无论是在数据中心还是边缘设备上,在OpenVINO™ 的加持下,都展现出低延迟、高吞吐量的能力。这对于需要实时响应的大语言模型应用场景尤为重要,如智能客服、实时翻译和智能助手等。

2. 跨平台兼容性:OpenVINO™ 支持多种硬件架构,帮助 Qwen 2 模型可以在不同的硬件环境中高效运行,满足各种应用场景的需求,帮助开发者可以在不同平台之间无缝迁移模型,充分利用现有硬件资源,降低部署成本。

3. 易用的开发工具:OpenVINO™ 提供了一整套开发工具,使得 Qwen 2 的开发者可以方便地进行模型转换、优化和部署,缩短开发周期,快速实现模型的实际应用,自动化地处理许多复杂的优化任务,开发者只需要专注于模型设计和应用开发即可。    

4. 丰富的社区资源:作为开源社区的一部分,OpenVINO™ 和 Qwen 2 拥有丰富的文档、教程和示例代码,帮助开发者快速上手并充分利用其功能。

OpenVINO™  + Qwen 2 快速上手教程:https://github.com/openvinotoolkit/openvino_notebooks/tree/blogs_supplementary/supplementary_materials/qwen2

 

 

想即刻动手体验 OpenVINO™ 和Qwen 2 的小伙伴可以移步 开发者实战 | 简单两步使用 OpenVINO™ 搞定 Qwen 2 的量化与部署任务

OpenVINO™ + Qwen2-1.5B 模型演示效果:

1.5b.gif

OpenVINO™ + Qwen2-7B 模型演示效果:

2-7.gif

image.png

在 Qwen 2 发布之后,OpenVINO™ 将继续与 Qwen 和魔搭社区紧密合作,在未来,推出一系列丰富多彩的活动,帮助开发者深入了解和应用 Qwen 2 及 OpenVINO™ 的最新技术。

点击链接👇直达原文

https://www.intel.cn/content/www/cn/zh/developer/tools/openvino-toolkit/download.html?VERSION=v_2023_3_0&OP_SYSTEM=LINUX&DISTRIBUTION=ARCHIVE?from=alizishequ__text

相关文章
|
1月前
|
数据采集 自然语言处理 前端开发
社区供稿 | 猎户星空百亿参数大模型 Orion-14B系列开源,一张3060就能跑(附魔搭社区推理微调最佳实践)
1月21日,傅盛在猎户星空大模型发布会上宣布,“为企业应用而生” 的开源百亿参数猎户星空大模型正式发布。猎户星空大模型(Orion-14B)是由猎户星空研发的预训练多语言大语言模型,以其140亿参数规模展现出了卓越的性能。
|
1月前
|
人工智能 自然语言处理 搜索推荐
魔搭ModelScope社区作为一个AI模型开源平台,提供了丰富的模型资源和便捷的服务
【2月更文挑战第9天】魔搭ModelScope社区作为一个AI模型开源平台,提供了丰富的模型资源和便捷的服务
289 3
|
1月前
|
人工智能 开发者 Python
Firefly:开源大模型训练工具助力AI技术进步,让你轻松训练各种主流大模型!
Firefly:开源大模型训练工具助力AI技术进步,让你轻松训练各种主流大模型!
239 1
|
10月前
|
机器学习/深度学习 人工智能 运维
阿里云率先支持Llama2全系列训练部署!
阿里云率先支持Llama2全系列训练部署!
457 0
|
6月前
|
数据采集 人工智能 自然语言处理
社区供稿 | 猎户星空发布Yi系列微调34B-Chat模型,开源免费,中英兼备全面领先!
OrionStar-Yi-34B-Chat中英文大模型集高性能、完全开源、免费可商用等诸多优势于一身
|
8月前
|
人工智能 文字识别 开发者
CogVLM智谱AI 新一代多模态大模型发布,魔搭社区最佳实践体验!
继 5 月 18 日推出 VisualGLM-6B 后,智谱AI&清华KEG 潜心打磨,于近日发布并直接开源了更强大的多模态大模型——CogVLM-17B。模型已第一时间发布在魔搭社区,可体验!
|
8月前
|
人工智能 自然语言处理 数据可视化
多语言对话模型 openbuddy-mistral-7b,魔搭社区免费算力环境最佳实践
近日,法国人工智能初创公司 Mistral AI 发布了一款新模型 Mistral 7B,其在每个基准测试中,都优于 Llama 2 13B,同时已免费开源可商用!
|
11月前
|
机器学习/深度学习 人工智能 JSON
Llama2开源大模型的新篇章以及在阿里云的实践
随着时间的推移,基于Llama2开源模型的应用预计将在国内如雨后春笋般涌现。这种趋势反映了从依赖外部技术向自主研发的转变,这不仅能满足我们特定的需求和目标,也能避免依赖外部技术的风险。因此,我们更期待看到优秀的、独立的、自主的大模型的出现,这将推动我们的AI技术的发展和进步。
1197 0
Llama2开源大模型的新篇章以及在阿里云的实践
|
9月前
|
人工智能 Linux API
本地化搭建媲美ChatGPT的中国对话模型ChatGLM2-6B
本地化搭建媲美ChatGPT的中国对话模型ChatGLM2-6B
286 0
|
机器学习/深度学习 人工智能 达摩院