ModelScope运营小助手_个人页

2024年05月

• 05.27 17:27:01
  提交了问题 2024-05-27 17:27:01

  最近大模型降价潮，哪家才是真的“价美”也“物美”？

• 05.13 09:58:07
  发表了文章 2024-05-13 09:58:07

  联合XTuner，魔搭社区全面支持数据集的长文本训练

  XTuner和魔搭社区（SWIFT）合作引入了一项长序列文本训练技术，该技术能够在多GPU环境中将长序列文本数据分割并分配给不同GPU，从而减少每个GPU上的显存占用。通过这种方式，训练超大规模模型时可以处理更长的序列，提高训练效率。魔搭社区的SWIFT框架已经集成了这一技术，支持多种大模型和数据集的训练。此外，SWIFT还提供了一个用户友好的界面，方便用户进行训练和部署，并且支持评估功能。
• 05.09 09:52:37
  发表了文章 2024-05-09 09:52:37

  NPU推理&微调大模型实战

  本文为魔搭社区轻量级训练推理工具SWIFT微调实战教程系列
• 05.08 10:43:29
  发表了文章 2024-05-08 10:43:29

  幻方开源第二代MoE模型 DeepSeek-V2，魔搭社区推理、微调最佳实践教程

  5月6日，幻方继1月份推出首个国产MoE模型，历时4个月，带来第二代MoE模型DeepSeek-V2，并开源了技术报告和模型权重，魔搭社区可下载体验。
• 05.07 10:12:32
  发表了文章 2024-05-07 10:12:32

  LISA微调技术解析：比LoRA更低的显存更快的速度

  LISA是Layerwise Importance Sampling for Memory-Efficient Large Language Model Fine-Tuning的简写，由UIUC联合LMFlow团队于近期提出的一项LLM微调技术，可实现把全参训练的显存使用降低到之前的三分之一左右，而使用的技术方法却是非常简单。
• 05.06 10:02:12
  发表了文章 2024-05-06 10:02:12

  社区供稿 |【中文Llama-3】Chinese-LLaMA-Alpaca-3开源大模型项目正式发布

  Chinese-LLaMA-Alpaca-3开源大模型项目正式发布，开源Llama-3-Chinese-8B（基座模型）和Llama-3-Chinese-8B-Instruct（指令/chat模型）
• 05.06 10:00:13
  发表了文章 2024-05-06 10:00:13

  学习资料大全​ | 一起来魔搭社区学AI吧！

  魔搭社区特别推出研习社栏目，包含AI前沿技术解读、模型应用最佳实践、动手做AI应用（AIGC/Agent/RAG）等主题，持续更新，代码实战点击即运行
• 05.06 09:58:31
  发表了文章 2024-05-06 09:58:31

  社区供稿 | 元象首个多模态大模型XVERSE-V开源，刷新权威大模型榜单，支持任意宽高比输入

  元象公司发布了开源多模态大模型XVERSE-V，该模型在图像输入的宽高比方面具有灵活性，并在多项评测中展现出优越性能，超越了包括谷歌在内的多个知名模型。XVERSE-V采用创新方法结合全局和局部图像信息，适用于高清全景图识别、文字检测等任务，且已在Hugging Face、ModelScope和GitHub上开放下载。此外，模型在视障场景、内容创作、教育解题、百科问答和代码生成等领域有广泛应用，并在VizWiz等测试集中表现出色。元象致力于推动AI技术的普惠，支持中小企业、研究者和开发者进行研发和应用创新。
• 04.29 10:16:39
  发表了文章 2024-04-29 10:16:39

  社区供稿 | 中文llama3模型哪家强？llama3汉化版微调模型大比拼

  随着llama3的发布，业界越来越多的针对其中文能力的微调版本也不断涌现出来，我们在ModelScope魔搭社区上，搜集到几款比较受欢迎的llama3中文版本模型，来从多个维度评测一下，其对齐后的中文能力到底如何？ 微调后是否产生了灾难性遗忘问题。
• 04.28 10:18:42
  发表了文章 2024-04-28 10:18:42

  千亿大模型来了！通义千问110B模型开源，魔搭社区推理、微调最佳实践

  近期开源社区陆续出现了千亿参数规模以上的大模型，这些模型都在各项评测中取得杰出的成绩。今天，通义千问团队开源1100亿参数的Qwen1.5系列首个千亿参数模型Qwen1.5-110B，该模型在基础能力评估中与Meta-Llama3-70B相媲美，在Chat评估中表现出色，包括MT-Bench和AlpacaEval 2.0。
• 04.26 10:37:13
  发表了文章 2024-04-26 10:37:13

  Phi-3：小模型，大未来！（附魔搭社区推理、微调实战教程）

  近期， Microsoft 推出 Phi-3，这是 Microsoft 开发的一系列开放式 AI 模型。Phi-3 模型是一个功能强大、成本效益高的小语言模型 (SLM)，在各种语言、推理、编码和数学基准测试中，在同级别参数模型中性能表现优秀。为开发者构建生成式人工智能应用程序时提供了更多实用的选择。
• 04.25 10:10:10
  发表了文章 2024-04-25 10:10:10

  Llama3 中文通用Agent微调模型来啦！（附手把手微调实战教程）

  Llama3模型在4月18日公布后，国内开发者对Llama3模型进行了很多训练和适配，除了中文纯文本模型外，多模态版本也陆续在发布中。
• 04.24 10:28:05
  发表了文章 2024-04-24 10:28:05

  社区供稿 | XTuner发布LLaVA-Llama-3-8B，支持单卡推理，评测和微调

  日前，XTuner 团队基于 meta 最新发布的 Llama-3-8B-Instruct 模型训练并发布了最新版多模态大模型 LLaVA-Llama-3-8B， 在多个评测数据集上取得显著提升。
• 04.23 10:18:26
  发表了文章 2024-04-23 10:18:26

  社区供稿 | 本地部署通义千问大模型做RAG验证

  这篇文章中，我们通过将模搭社区开源的大模型部署到本地，并实现简单的对话和RAG。
• 04.23 10:15:39
  发表了文章 2024-04-23 10:15:39

  在魔搭使用SD-WebUI，玩转AIGC！

  stable-diffusion-webui是一个便捷的工具，大大降低了复杂AI技术的使用门槛，让更多人能享受到AI驱动的图像生成技术带来的便利与创新可能。
• 04.22 17:36:00
  发表了文章 2024-04-22 17:36:00

  社区供稿 | Llama3-8B中文版！OpenBuddy发布新一代开源中文跨语言模型

  此次发布的是在3天时间内，我们对Llama3-8B模型进行首次中文跨语言训练尝试的结果：OpenBuddy-Llama3-8B-v21.1-8k。
• 04.22 17:34:14
  发表了文章 2024-04-22 17:34:14

  Llama 3开源，魔搭社区手把手带你推理，部署，微调和评估

  Meta发布了 Meta Llama 3系列，是LLama系列开源大型语言模型的下一代。在接下来的几个月，Meta预计将推出新功能、更长的上下文窗口、额外的模型大小和增强的性能，并会分享 Llama 3 研究论文。

  
• 04.22 17:28:11
  发表了文章 2024-04-22 17:28:11

  社区供稿 | 开放开源！蚂蚁集团浙江大学联合发布开源大模型知识抽取框架OneKE

  OneKE 是由蚂蚁集团和浙江大学联合研发的大模型知识抽取框架，具备中英文双语、多领域多任务的泛化知识抽取能力，并提供了完善的工具链支持。OneKE 以开源形式贡献给 OpenKG 开放知识图谱社区。
• 04.19 10:24:44
  发表了文章 2024-04-19 10:24:44

  手把手教你捏一个自己的Agent

  Modelscope AgentFabric是一个基于ModelScope-Agent的交互式智能体应用，用于方便地创建针对各种现实应用量身定制智能体，目前已经在生产级别落地。
• 04.19 10:22:12
  发表了文章 2024-04-19 10:22:12

  vLLM部署Yuan2.0：高吞吐、更便捷

  vLLM是UC Berkeley开源的大语言模型高速推理框架，其内存管理核心——PagedAttention、内置的加速算法如Continues Batching等，一方面可以提升Yuan2.0模型推理部署时的内存使用效率，另一方面可以大幅提升在实时应用场景下Yuan2.0的吞吐量。
• 04.17 17:07:00
  发表了文章 2024-04-17 17:07:00

  快来与 CodeQwen1.5 结对编程

  今天，来自 Qwen1.5 开源家族的新成员，代码专家模型 CodeQwen1.5开源！CodeQwen1.5 基于 Qwen 语言模型初始化，拥有 7B 参数的模型，其拥有 GQA 架构，经过了 ~3T tokens 代码相关的数据进行预训练，共计支持 92 种编程语言、且最长支持 64K 的上下文输入。效果方面，CodeQwen1.5 展现出了优秀的代码生成、长序列建模、代码修改、SQL 能力等,该模型可以大大提高开发人员的工作效率，并在不同的技术环境中简化软件开发工作流程。
• 04.17 16:55:08
  发表了文章 2024-04-17 16:55:08

  社区供稿 | 140B参数、可商用！OpenBuddy 发布首个开源千亿中文 MoE 模型的早期预览版

  我们很自豪地于今天发布OpenBuddy最新一代千亿MoE大模型的早期预览版本：OpenBuddy-Mixtral-22Bx8-preview0-65k。此次发布的早期预览版对应约50%的训练进度。
• 04.17 13:42:24
  发表了文章 2024-04-17 13:42:24

  新一代端侧模型，面壁 MiniCPM 2.0开源，魔搭社区最佳实践

  MiniCPM-V 2.0 不仅带来优秀端侧多模态通用能力，更带来惊艳的 OCR 表现。通过自研的高清图像解码技术，可以突破传统困境，让更为精准地识别充满纷繁细节的街景、长图在端侧成为可能。
• 04.17 10:38:58
  发表了文章 2024-04-17 10:38:58

  性能提升30%！中国电信进一步开源12B星辰大模型TeleChat-12B！魔搭社区最佳实践来啦！

  中国电信人工智能研究院开源12B参数规模星辰语义大模型TeleChat-12B，相较1月开源7B版本，内容、性能和应用等方面整体效果提升30%，其中，多轮推理、安全问题等领域提升超40%。在C-eval、MMLU、AGIEVAL等国际权威榜单上，排名处于国内同级别参数开源模型的前列，进一步促进大模型开源生态繁荣，助力AI产业加速高质量发展。另据悉，中国电信人工智能研究院将于年内开源千亿级参数大模型。
• 04.15 14:52:13
  发表了文章 2024-04-15 14:52:13

  通义千问一周年，开源狂飙路上的抉择与思考｜魔搭深度访谈

  通义千问一周年
• 04.12 10:23:19
  发表了文章 2024-04-12 10:23:19

  InstantStyle，无需训练，风格保留文生图

  InstantStyle 是一个通用框架，它采用两种简单但有效的技术来实现风格和内容与参考图像的有效分离。
• 04.11 10:15:19
  发表了文章 2024-04-11 10:15:19

  8卡环境微调Grok-1实战

  SWIFT（Scalable lightWeight Infrastructure for Fine-Tuning）是魔搭ModelScope开源社区推出的一套完整的轻量级训练推理工具，基于PyTorch的轻量级、开箱即用的模型微调、推理框架，让AI爱好者用自己的消费级显卡就能玩转大模型和AIGC。
• 04.10 11:02:06
  发表了文章 2024-04-10 11:02:06

  【RAG实践】Rerank，让RAG更近一步

  本文主要关注在Rerank，本文中，Rerank可以在不牺牲准确性的情况下加速LLM的查询（实际上可能提高准确率），Rerank通过从上下文中删除不相关的节点，重新排序相关节点来实现这一点。
• 04.09 10:02:00
  发表了文章 2024-04-09 10:02:00

  元象开源首个MoE大模型：4.2B激活参数，效果堪比13B模型，魔搭社区最佳实践来了

  近日，元象发布其首个Moe大模型 XVERSE-MoE-A4.2B， 采用混合专家模型架构 （Mixture of Experts），激活参数4.2B，效果即可媲美13B模型。该模型全开源，无条件免费商用，支持中小企业、研究者和开发者可在元象高性能“全家桶”中按需选用，推动低成本部署。
• 04.08 15:12:32
  发表了文章 2024-04-08 15:12:32

  TripoSR开源！从单个图像快速生成 3D 对象！（附魔搭社区推理实战教程）

  近期，VAST团队和Stability AI团队合作发布了TripoSR，可在一秒内从单个图像生成高质量3D对象。
• 04.07 11:04:03
  发表了文章 2024-04-07 11:04:03

  适合假期自学一战成名的必看秘籍-五板斧打造AgentScope应用

  本文写给有一定编程基础的学习者，得以入门 源码级 开发Agentscope应用，并上线创空间，参加AgentScope的应用开发挑战赛。

  
• 04.03 10:49:01
  发表了文章 2024-04-03 10:49:01

  Multi-Agent实践第7期：智能体的高效协作

  教程第7期
• 04.03 10:42:57
  发表了文章 2024-04-03 10:42:57

  澜舟科技开源孟子3-13B大模型，魔搭社区推理训练最佳实践！

  4月1日，澜舟科技宣布开源Mengzi3-13B大模型，对学术研究完全开放，同时支持免费商用。
• 04.02 10:04:37
  发表了文章 2024-04-02 10:04:37

  Multi-Agent实践第6期：面向智能体编程：狼人杀在AgentScope

  本期文章，我们会介绍一下AgentScope的一个设计哲学（Agent-oriented programming）
• 04.01 10:45:38
  发表了文章 2024-04-01 10:45:38

  Qwen1.5-MoE开源，魔搭社区推理训练最佳实践教程来啦

  通义千问团队推出Qwen系列的首个MoE模型，Qwen1.5-MoE-A2.7B。
• 04.01 10:42:22
  发表了文章 2024-04-01 10:42:22

  Multi-Agent实践第5期：RAG智能体的应用：让AgentScope介绍一下自己吧

  本期文章，我们将向大家展示如何使用AgentScope中构建和使用具有RAG功能的智能体，创造AgentScope助手群，为大家解答和AgentScope相关的问题。
• 03.29 10:33:18
  发表了文章 2024-03-29 10:33:18

  元象大模型开源30款量化版本 加速低成本部署丨附教程

  元象大模型一次性发布30款量化版本，全开源，无条件免费商用。
• 03.29 10:30:25
  发表了文章 2024-03-29 10:30:25

  Multi-Agent实践第4期：智能体的“想”与“做”-ReAct Agent

  本期文章，我们将向大家展示如何使用AgentScope内置的ReAct智能体解决更为复杂的问题。
• 03.28 15:32:13
  发表了文章 2024-03-28 15:32:13

  在魔搭使用ComfyUI，玩转AIGC

  ComfyUI是一个功能强大、模块化程度高的AIGC图形和视频生成的用户界面和后台。
• 03.28 15:29:25
  发表了文章 2024-03-28 15:29:25

  Multi-Agent实践第3期：看智能体下五子棋

  智能五子棋
• 03.27 10:18:30
  发表了文章 2024-03-27 10:18:30

  Multi-Agent实践第2期: @智能体 你怎么看？

  我们将带你体验如何实现一个更具互动性的多智能体群聊：你可以直接"@"提及某个智能体来引发对话。
• 03.26 10:33:51
  发表了文章 2024-03-26 10:33:51

  Mistral 7B v0.2 基础模型开源，魔搭社区微调教程和评测来啦！

  Mistral AI在3月24日突然发布并开源了 Mistral 7B v0.2模型，有如下几个特点
• 03.26 10:22:46
  发表了文章 2024-03-26 10:22:46

  Multi-Agent实践第1期：5分钟上手AgentScope

  阿里云与魔搭社区联合举办Create@AI创客松，邀请开发者探索基于多智能体的人机协作模式。活动提供资源支持和专家指导，获胜者可获得近5万元现金奖励及6亿次千问调用额度。参赛者需准备大模型API，如DashScope或OpenAI，使用AgentScope开源框架开发多智能体应用。立即报名参加：[报名链接](https//startup.aliyun.com/special/aihackathon4)。
• 03.20 13:55:39
  发表了文章 2024-03-20 13:55:39

  Open-Sora，高效复现类Sora视频生成方案开源！魔搭社区最佳实践教程来啦！

  近期，HPC-AI Tech团队在GitHub上正式公开了Open-Sora项目
• 03.19 10:46:11
  发表了文章 2024-03-19 10:46:11

  用消费级显卡微调属于自己的Agent

  本文为魔搭社区轻量级训练推理工具SWIFT微调实战教程系列
• 03.18 10:16:04
  发表了文章 2024-03-18 10:16:04

  Yuan2.0大模型，联合向量数据库和Llama-index，助力检索增强生成技术

  本文将以Yuan2.0最新发布的Februa模型为例进行测试验证，用更小规模的模型达到更好的效果。
• 03.15 11:02:15
  发表了文章 2024-03-15 11:02:15

  社区供稿 | 2张卡训练70B的大模型（上） - 百亿大模型部署系列

  百亿大模型部署
• 03.14 09:46:29
  发表了文章 2024-03-14 09:46:29

  魔搭Agent体验升级！支持编辑已发布的Agent、新增tool说明书等

  魔搭Agent作为开源版GPTs，可以零代码DIY一个具备丰富功能的chat bot，今天上线了一个新版本优化了相关体验，来看！
• 03.13 09:51:16
  发表了文章 2024-03-13 09:51:16

  DeepSeek VL系列开源，魔搭社区模型微调最佳实践教程来啦！

  3月11日，DeepSeek-AI开源了全新多模态大模型DeepSeek-VL系列，包含1.3b、7b两种不同规模的4个版本的模型。
• 03.11 10:30:33
  发表了文章 2024-03-11 10:30:33

  顶会速递 | CVPR 2024 魔搭社区模型/创空间盘点（一）

  魔搭社区整理了 CVPR 2024中稿论文中在社区上可下载的开源模型、体验Demo的一些工作，给大家带来第一波盘点