ModelScope内容运营小助手_个人页

2024年05月

• 05.28 10:32:07
  发表了文章 2024-05-28 10:32:07

  PAI x ModelScope： 在PAI使用ModelScope模型

  在当前的人工智能领域，特别是大语言模型、文生图等领域，基于预训练模型完成机器学习模型的开发部署已成为重要的应用范式，开发者们依赖于这些先进的开源预训练模型，以简化机器学习应用的开发并加速创新。
• 05.27 10:34:13
  发表了文章 2024-05-27 10:34:13

  微软开源4.2B参数多模态SLM模型Phi-3-vision，魔搭社区推理、微调实战教程来啦！

  在 Microsoft Build 2024 上，微软持续开源了 Phi-3 系列的新模型们。包括 Phi-3-vision，这是一种将语言和视觉功能结合在一起的多模态模型。
• 05.24 10:46:02
  发表了文章 2024-05-24 10:46:02

  社区供稿 | 更长、更强、更开放，零一万物 Yi-1.5 系列开源模型发布一周广受好评

  5 月 13 日，零一万物 Yi 系列开源模型全新升级为 Yi-1.5。相较于去年 11 月的开源版本，这次的 Yi-1.5 在保持原 Yi 系列模型优秀的通用语言能力的前提下，通过增量训练 500B 高质量 token，大幅提高了数学逻辑、代码能力。
• 05.24 10:29:34
  发表了文章 2024-05-24 10:29:34

  魔搭开源推理引擎 DashInfer，助力CPU服务器解锁大模型超强推理

  ModelScope推出了预训练大语言模型（LLM）推理引擎DashInfer，采用C++ Runtime编写，提供C++和Python语言接口，具有生产级别的高性能表现，适用于多种CPU架构，包括x86和ARMv9。DashInfer支持连续批处理（Continuous Batching）和多NUMA推理（NUMA-Aware），能够充分利用服务器级CPU的算力，为推理14B及以下的LLM模型提供更多的硬件选择。该项工作已开源。
• 05.23 10:40:47
  发表了文章 2024-05-23 10:40:47

  ModelScope-Agent框架再升级！新增一键配置多人聊天，配套开源多智能体数据集和训练

  ModelScope-Agent是魔搭社区推出的适配开源大语言模型（LLM）的AI Agent（智能体）开发框架，借助ModelScope-Agent，所有开发者都可基于开源 LLM 搭建属于自己的智能体应用。在最新升级完Assistant API和Tool APIs之后，我们又迎来了多智能体聊天室的升级，通过几分钟快速配置即可搭建一个全新的聊天室。
• 05.22 11:11:00
  发表了文章 2024-05-22 11:11:00

  面壁推出超强端侧多模态模型，推理仅需8G显存！

  面壁小钢炮 MiniCPM 系列，再次推出超强端侧多模态模型 MiniCPM-Llama3-V 2.5，且支持 30+ 多种语言
• 05.21 10:49:51
  发表了文章 2024-05-21 10:49:51

  CogVLM2: 智谱开源新一代多模态大模型！

  智谱·AI推出了新一代 CogVLM2 系列模型，并开源了使用 Meta-Llama-3-8B-Instruct 构建的两个模型。 与上一代CogVLM开源模型相比，CogVLM2系列开源模型有了很多改进...
• 05.20 13:14:51
  发表了文章 2024-05-20 13:14:51

  联合活动 | A100算力加持，理论结合实践！大模型实战营“初夏专场”火热来袭

  随着初夏的到来，实战营第二期“初夏专场”热情开启，新增 VLM 专题课程，A100 算力加持，理论与实践并重，带给你纯粹而充实的学习体验。在这里，学习不再枯燥，成长触手可及。让我们一起，在知识的海洋中乘风破浪，探索大模型的无限可能吧！
• 05.20 10:51:13
  发表了文章 2024-05-20 10:51:13

  Compass Arena： 司南x魔搭携手推出大模型竞技场

  从Llama-3的问世，到参数规模空前的MoE模型，再到GPT-4o的震撼发布，大语言模型（LLM）的飞速进步让人目不暇接。然而，随着模型数量的增加，如何客观、公正地评估和比较这些模型的性能，亟待探索与解决的问题。
• 05.17 10:55:28
  发表了文章 2024-05-17 10:55:28

  大模型量化技术解析和应用

  眼看人工智能含智能量越来越高含人量越来越低，是否开始担心自己要跟不上这趟高速列车了？内心是否也充满好奇：大模型背后的奥秘是什么？为何如此强大？它能为我所用吗？哪种技术最适合我的需求？
• 05.16 09:59:32
  发表了文章 2024-05-16 09:59:32

  社区供稿 | Yuan2.0千亿大模型在通用服务器上的高效推理实现：以NF8260G7服务器为例

  浪潮信息联合Intel在IPF大会上发布了可运行千亿参数大模型的AI通用服务器，首次实现了单机通用服务器，即可运行千亿参数大模型。并在发布现场演示了基于NF8260G7服务器进行yuan2.0-102B模型在代码编写、逻辑推理等高难度问题上的实时推理效果，引起了业界广泛的关注。本文将详细解读yuan2.0-102B模型在NF8260G7服务器上进行高效实时推理的原理和技术路径。
• 05.15 10:15:30
  发表了文章 2024-05-15 10:15:30

  MistoLine-线条魔法，驾驭每一缕创意！

  MistoLine 是一个可以适配任意类型线稿，准确性高，稳定性优秀的SDXL-ControlnetNet模型。它可以基于用户输入的任意类型的线稿图（手绘、各类controlnet-line preprocessor、模型线框轮廓等）作为条件，生成高质量图像（短边大于1024px），无需再根据不同线预处理器选择不同的controlnet模型，MistoLine在各类线稿条件下都有较好的泛化能力。
• 05.14 13:12:17
  发表了文章 2024-05-14 13:12:17

  零一万物Yi-1.5系列模型发布并开源！34B/9B/6B 多尺寸魔搭社区推理微调最佳实践教程来啦！

  Yi-1.5是Yi的升级版本。 它使用 500B tokens的高质量语料库在 Yi 上持续进行预训练，并在 3M 个多样化的微调样本上进行微调。
• 05.11 10:20:01
  发表了文章 2024-05-11 10:20:01

  智能体-Agent能力升级！新增Assistant API & Tools API服务接口

  ModelScope-Agent是一个交互式创作空间，它支持LLM（Language Model）的扩展能力，例如工具调用（function calling）和知识检索（knowledge retrieval）。它已经对相关接口进行了开源，以提供更原子化的应用LLM能力。用户可以通过Modelscope-Agent上的不同代理（agent），结合自定义的LLM配置和消息，调用这些能力。